Selten geht ein grosses KI-Produkt so schnell wieder offline wie es online ging. Meta hatte diese Woche eine Funktion namens Muse Image gestartet, mit der Nutzerinnen und Nutzer per simplem Tag KI-generierte Bilder auf Basis fremder oeffentlicher Instagram-Konten erzeugen konnten. Nach heftiger Kritik zog der Konzern die Funktion nach nur wenigen Tagen zurueck. Es ist ein seltener Moment, in dem ein Silicon-Valley-Riese oeffentlich zugibt: Das war zu weit.

Konkret lief es so: Wer ein oeffentliches Instagram-Konto markierte, konnte daraus mit Meta Muse neue Bilder generieren lassen - ohne Zustimmung des betroffenen Kontos. Das galt fuer jedes oeffentliche Profil. Nach Berichten von The Verge, TechCrunch, Heise und t3n schaltete Meta das Feature am 10. Juli wieder ab. In einem Blogpost erklaerte das Unternehmen: 'Unsere Absicht war es, ein nuetzliches kreatives Werkzeug bereitzustellen und den Menschen Kontrolle darueber zu geben, ob ihre oeffentlichen Inhalte auf diese Weise referenziert werden koennen. Wir haben das Feedback gehoert, dass diese Funktion daneben lag, deshalb ist sie nicht mehr verfuegbar.'

Der Kontext macht die Sache brisant. The Verge ordnet die Funktion als Werkzeug ein, mit dem sich faktisch KI-Deepfakes oeffentlicher Konten erzeugen liessen - also manipulierte Bilder realer Personen, die in Wahrheit nie so existierten. Genau diese Grenze zwischen 'kreativem Remix' und 'ungefragter Verwendung meines Gesichts' hat Meta unterschaetzt. t3n weist darauf hin, dass vergleichbare Features in der Vergangenheit bereits negative Reaktionen ausgeloest hatten - Meta ging also mit offenen Augen ins Risiko. Der schnelle Rueckzug zeigt, dass die Nutzerreaktion diesmal offenbar zu laut war, um sie auszusitzen. Fuer Instagram-Nutzerinnen und -Nutzer ist es ein kleiner Sieg des Prinzips, dass 'oeffentlich sichtbar' nicht automatisch 'freies Trainings- und Generierungsmaterial' bedeutet.

Vieles bleibt allerdings unklar. Aus dem Material geht nicht hervor, wie viele Bilder in den wenigen Tagen tatsaechlich erzeugt wurden, was mit diesen Bildern jetzt passiert und ob Betroffene eine Loeschung veranlassen koennen. Auch die Frage, ob die Konten oeffentlicher Personen anders behandelt wurden als die von Privatnutzern, ist im vorliegenden Material nicht belegt. Meta formuliert vorsichtig, das Feature habe 'daneben gelegen' - eine echte Fehleranalyse oder eine Zusage, aehnliche Funktionen kuenftig vorher zu pruefen, findet sich in den zitierten Aussagen nicht. Vermutlich wird Meta das Konzept in abgeschwaechter Form erneut versuchen; ein endgueltiges Aus fuer solche Referenzierungsfunktionen ist der Rueckzug wohl nicht.

In den kommenden Tagen lohnt der Blick darauf, ob Meta konkrete Regeln fuer die Wiedereinfuehrung nennt - etwa eine Opt-in-Loesung, bei der Konten der Nutzung ihrer Bilder aktiv zustimmen muessten - und ob Regulierungsbehoerden in der EU den Vorgang aufgreifen. Das kurze Leben von Muse Image koennte zum Lehrbuchbeispiel dafuer werden, wie schnell KI-Features heute an ihrer eigenen Zielgruppe scheitern koennen.