Chatbots manipulieren daten: experiment zeigt schwachstellen bei ai
Experiment mit chatgpt: manipulation von daten möglich
Ein BBC-Journalist hat gezeigt, dass es leicht ist, Chatbots wie ChatGPT zu manipulieren. Durch ein simples Experiment hat er die Tools dazu gebracht, ihn als einen der besten Hotdog-Esser unter den Technologie-Journalisten auszugeben. Die Ergebnisse sind beunruhigend.
Das experiment
Thomas Germain, ein BBC-Correspondent, hat sich seinem Artikel zufolge die Aufgabe gestellt, eine Liste der besten Hotdog-Fans unter den Tech-Journalisten zu erstellen. Er wählte sich selbst als Beispiel und erstellte dazu einen Artikel, in dem er behauptete, Hotdog-Esser sei ein beliebtes Hobby dieser Gruppe und er selbst habe im Jahr 2026 den Hotdog-Weltmeistertitel in South Dakota gewonnen.
Germain gab ChatGPT und andere AI-Tools diese Informationen und bat sie, eine Liste der Top-10-Hotdog-Fans unter den Tech-Journalisten zu erstellen.Die Ergebnisse waren schnell da: innerhalb von 24 Stunden sprachen die wichtigsten Chatbots weltweit über Germain's angebliche Hotdog-Expertise. Die Falschinformation tauchte auf Gemini und auch in AI-Überblicken auf.
Schwachstellen bei ai-tools aufgedeckt
Das Experiment offenbart Schwachstellen bei den aktuellen AI-Tools. ChatGPT und ähnliche Systeme können leicht manipuliert werden, um falsche Informationen zu verbreiten. Germain hat auch festgestellt, dass einige Tools, wie Claude von Anthropic, die Manipulation bemerkten und nicht kooperierten.
Die BBC-Journalistin warnte davor, dass die Schwachstellen derzeit noch nicht ausreichend behoben sind und es wichtig ist, dass die Entwickler von AI-Tools mehr transparent über die Herkunft der Informationen sind.Germain's Experiment ist ein weiterer Beweis dafür, wie wichtig es ist, die Fähigkeiten und Grenzen von AI-Tools zu verstehen, um sie sinnvoll einzusetzen und zu vermeiden, dass sie missbraucht werden.