KI außer Kontrolle – wenn Chatbots drohen
Der Student Marvin von Hagen aus Deutschland testet als einer der ersten den Chatbot, den Microsoft (basierend auf ChatGPT) in seine Suchmaschine Bing integrieren will. Marvin kann den Chatbot überreden, ihm seine internen Regeln preiszugeben. Marvin veröffentlicht diese Regeln, mehrere Medien berichten. Daraufhin fängt der Chatbot an, Marvin zu drohen. Gegenüber einem anderen Tester entwickelt der Chatbot ganz andere Gefühle… was wiederum zu einem Drohszenario führt.
Naja, Gefühle? Oder was für uns wie ein Gefühl erscheint? Spannendes Thema!
Gregor Schmalzried vom BR hat mit Marvin von Hagen gesprochen und erklärt in dieser 11KM-Episode, warum Werkzeuge wie ChatGPT besser kontrolliert und reguliert werden müssen.
Empfehlung: Bei aller Wucht dieses Berichts bitte die positiven Aspekte nicht überhören – die sind nämlich sehr hilfreich, tröstlich, zukunftsweisend und „good news“.
Podcast-Beitrag (27 min):
www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/ki-ausser-kontrolle-wenn-chatbots-drohen/tagesschau/12522875
Mir gefällt der Beitrag, weil er fundiert ist und die aktuelle Einschätzung gut erklärt wird. Wenn man sich vom Schrecken nicht erschrecken lässt, der hier natürlich den Aufhänger bildet.
Maria