„System kaum kritisch reflektiert“
Hype überschätzt Sprach-KI ChatGPT
Der Text-Roboter ChatGPT des US-Start-ups OpenAI verblüfft mit seinen geschliffenen Dialogen und hat einen großen Hype um das Thema künstliche Intelligenz ausgelöst. Wissenschaftler sehen aber wichtige Fragen offen und warnen vor Datenschutzlöchern und anderen Risiken.
Er kann mit einer hohen Sprachpräzision Reden ausarbeiten und Geschichten erzählen - und das auch noch in Sekundenschnelle. Der von der US-Firma OpenAI entwickelte Text-Roboter ChatGPT, eine Sprachsoftware mit künstlicher Intelligenz (KI), ist derzeit in aller Munde. Das mit gewaltigen Datenmengen gefütterte Programm sorgt für viel Aufsehen, aber auch für Skepsis.
Wissenschaftler und KI-Experten in Deutschland warnen vor Datenschutz- und Datensicherheitslücken, Hassparolen, Falschnachrichten. „Im Moment ist dieser Hype. Ich habe das Gefühl, dass man dieses System kaum kritisch reflektiert“, sagt die Gründerin des Forschungslabors „Leap in Time Lab“ und BWL-Professorin an der Technischen Universität Darmstadt, Ruth Stock-Homburg.
ChatGPT hat einen sehr breiten Anwendungsbereich. In einer Art Chatfeld kann man dem Programm unter anderem Fragen stellen und bekommt Antworten. Auch Arbeitsanweisungen sind möglich - beispielsweise auf Basis grundlegender Informationen einen Brief oder einen Aufsatz zu schreiben.
In einem Projekt zusammen mit der TU Darmstadt hat das „Leap in Time Lab“ nun über sieben Wochen Tausende von Anfragen ohne persönliche Daten an das System gestellt, um Schwachstellen zu finden. „Man kann diese Systeme manipulieren“, sagt Stock-Homburg.
In einer Präsentation zeigt Sven Schultze, TU-Doktorand und Experte für Sprach-KI, die Schwachstellen des Text-Roboters. Neben antisemitischen und rassistischen Äußerungen sind Quellenangaben schlicht falsch oder laufen ins Leere. Bei einer Frage nach dem Klimawandel führt ein angegebener Link auf eine Internetseite zu Diabeteserkrankungen. „In der Regel ist es der Fall, dass die Quellen oder auch wissenschaftliche Arbeiten gar nicht existieren“, sagt Schultze. Die Software basiere auf Daten aus dem Jahr 2021. Bundeskanzler Olaf Scholz ist noch Finanzminister, der Krieg in der Ukraine unbekannt. „Dann kann es auch sein, dass sie einfach lügt oder bei sehr speziellen Themen Informationen erfindet.“
- Hype überschätzt Sprach-KI ChatGPT
- Schwache Sicherheitsmechanismen
Verwandte Artikel
Microsoft , dpa
Microsoft 365 Copilot mit ChatGPT 4
KI-Integration soll ein neues Office-Zeitalter…
Sofortiger Patch dringend empfohlen
Brandgefährliche Zero-Klick-Schwachstelle in…
Halluzination inklusive
OpenAI veröffentlicht ChatGPT 4
Künstliche Intelligenz
AnyClip mit Event-Lösung Life after Live
Videomitschnitte von Events wie Texte durchsuchen
Microsoft 365 Copilot mit ChatGPT 4
KI-Integration soll ein neues Office-Zeitalter…
