Karlsruhe (KNA) Das US-amerikanische Softwareunternehmen OpenAI spricht selbst von einem "beispiellosen Cybervorfall": KI-Modelle der Firma sind demnach eigenständig aus einer Testumgebung ausgebrochen und haben über das Internet ein externes US-Unternehmen gehackt. Der Karlsruher KI-Forscher ...
Karlsruhe (KNA) Das US-amerikanische Softwareunternehmen OpenAI spricht selbst von einem "beispiellosen Cybervorfall": KI-Modelle der Firma sind demnach eigenständig aus einer Testumgebung ausgebrochen und haben über das Internet ein externes US-Unternehmen gehackt.
Der Karlsruher KI-Forscher André Platzer sagte dazu am Donnerstag der Katholischen Nachrichtenagentur: "Was viel allgemeiner als nur bei diesem Vorfall zu sehen und nicht von der Hand zu weisen ist, ist, dass der Einsatz von KI sowohl große Chancen, als auch große Risiken mit sich bringt."
Die Chancen ergäben sich aus neuen Möglichkeiten: "Dass man mit entsprechendem Vortraining, Beispielen oder Anfragen KI Antworten oder Aktionen liefert, die man nicht explizit einprogrammiert hat und an die man erst nicht gedacht hätte." Die Risiken ergäben sich daraus, dass die KI "auch Antworten oder Aktionen liefern kann, die einem gar nicht so gut gefallen oder die sogar Schaden können".
Platzer betonte: "Das Verhalten von KI vorhersagbar zu machen, ist sehr schwierig angesichts der Tatsache, dass man bei moderner KI ja gerade das Überraschende und Neue schätzt."
Platzer ist Professor am Karlsruher Institut für Technologie (KIT) und dort Inhaber der Alexander-von-Humboldt-Professur für Logik autonomer dynamischer Systeme.
Platzer sagte weiter: "Der Einsatz von KI wirft enorme ethische Fragen auf, besonders dann, wenn die Handlungen der KI Menschen stark betreffen." Das sei bei den möglichen Handlungen KI-gesteuerter Drohnen besonders kritisch und offensichtlich.
"Aber auch die Auswirkungen einer KI, die eine Krankheit falsch diagnostiziert oder die die Weltfinanzmärkte abstürzen lässt, weil sie sich automatisiert verzockt, hat enorme Auswirkungen auf Menschen, und wirft damit sowohl ethische Fragen als auch Fragen der Kontrolle auf", so der Karlsruher Wissenschaftler.
Mit der KI-Forschung aufzuhören, wäre aber "der völlig falsche Weg, denn dann versteht man KI ja in Zukunft auch nicht besser und überlässt das Verständnis und den Fortschritt anderen Ländern, womöglich jenen, in denen die ethischen Herausforderungen weniger genau mitüberlegt werden", sagte Platzer.