Apple setzt KI-Nachrichten aus, nachdem Rafael Nadal einen Fehler bei seiner Behauptung gemacht hat

Der Technologieriese Apple hat die Einstellung seines auf künstlicher Intelligenz basierenden Nachrichtentools angekündigt, nachdem es zu einer Reihe schwerwiegender Fehler gekommen war. Dazu gehörte auch eine falsche Schlagzeile, in der suggeriert wurde, dass sich Rafael Nadal, der legendäre spanische Tennisspieler mit 22 Grand-Slam-Titeln, als schwul geoutet hätte. Diese Informationen wurden irrtümlicherweise von der KI generiert und lösten eine Welle der Kritik aus, berichtet AI4Future.

Das Tool, das eigentlich Nachrichten zusammenfassen sollte, machte seit seinem Start immer wieder gravierende Fehler. Dies führte zu Beschwerden von Nachrichtenorganisationen, Aktivisten und Nutzern, die auf die schlechte Qualität der Zählungen und die Gefahr gefährlicher Desinformation hinwiesen.

Nach dem jüngsten Vorfall hat Apple ein Beta-Softwareupdate veröffentlicht, das die KI-Funktion für die Kategorien Nachrichten und Unterhaltung vollständig deaktiviert. Dieses Update wird zukünftig allen Benutzern zur Verfügung stehen. Das Unternehmen betonte, dass man weiterhin an der Verbesserung des Tools arbeite, um ähnliche Fehler in Zukunft zu vermeiden.

Das KI-Nachrichtenfeature war Teil von Apple Intelligence, einer Plattform, die das Unternehmen Ende letzten Jahres als Teil seiner Strategie zur Einführung generativer KI-Technologien eingeführt hat. Diese Tools sollten für die Vermarktung von Apple-Produkten von entscheidender Bedeutung sein. Aufgrund zahlreicher Probleme ist die Funktion derzeit jedoch vorübergehend deaktiviert, das Unternehmen erklärt jedoch, dass es beabsichtigt, sie wiederherzustellen.

Zusätzlich zur Deaktivierung der Funktion hat Apple den Benachrichtigungseinstellungen einen Warnhinweis hinzugefügt, der darauf hinweist, dass es sich bei dieser Funktion um eine Betaversion handelt und diese Fehler enthalten kann. Das Ziel des Tools bestand darin, Benachrichtigungen aus verschiedenen Anwendungen in einem praktischen Format zusammenzufassen, um den Benutzern Zeit zu sparen. In der Praxis jedoch erstellte er ungenaue oder falsche Schlagzeilen, die große Empörung auslösten.

Einige Medienunternehmen, darunter die BBC, haben ihre Bedenken hinsichtlich dieses Features offen geäußert. So behauptete die KI etwa fälschlicherweise, Luigi Magnoni, der angeklagt war, den UnitedHealth-CEO Brian Thompson getötet zu haben, habe sich selbst erschossen, was sich als falsch herausstellte. Die BBC reichte eine formelle Beschwerde ein, woraufhin Apple versprach, die Situation zu beheben.

Kritiker dieser Funktion, darunter Organisationen, die für die freie Meinungsäußerung kämpfen, warnen, dass solche Tools eine Gefahr für die Gesellschaft darstellen könnten, da sie Fehlinformationen verbreiten und das Vertrauen in Nachrichtenquellen verringern. Während Apple betont, dass die Funktion optional war, versichert das Unternehmen, dass es wesentliche Änderungen vornehmen wird, bevor es sie wieder in Gebrauch nimmt.