OpenAI hat sich bei ihrem Text-zu-Video-Modell Sora zurückgezogen, nachdem es zu missbräuchlichen Darstellungen von bekannten Persönlichkeiten gekommen war. Das Unternehmen reagierte auf eine direkte Aufforderung der Martin Luther King, Jr. Estate (King, Inc.). Einige Nutzer nutzten das Modell, um verstorbene Prominente in Videos darstellen zu lassen.
Ein Beispiel dafür ist ein Video, das Schauspieler Paul Walker und Rapper 2Pac zeigt, wie sie einen neuen "Fast and Furious"-Film bewerben. Andere Videos zeigten den Schauspieler Robin Williams sowie den Komiker George Carlin. Auch Martin Luther King Jr. stand in einigen dieser Videos im KI-Rampenlicht.
Angehörige der betroffenen Personen klagten öffentlich über diese Respektlosigkeit. Während lebende Personen bei Sora nur mit deren expliziter Zustimmung für Videos genutzt werden können, gab es für Verstorbene bisher keine Einschränkungen.
OpenAI hat nun angekündigt, die Richtlinien auch für Verstorbene nachzuschärfen und autorisierten Nachlassverwaltern zu ermöglichen, bestimmte Personen für Sora sperren zu lassen. Dieser Schritt geht überraschend über die bisherige rechtliche Praxis in vielen Regionen hinaus.
Es ist davon auszugehen, dass OpenAI nach diesem Vorfall die Filter und Moderationssysteme in Sora tatsächlich deutlich verschärfen wird, um Namen bekannter historischer und verstorbener Persönlichkeiten in diskreditierenden Kontexten zu blockieren. Ganz ohne Diskussionen wird dieser Schritt allerdings nicht gelingen.
Die Debatte um Sora und Martin Luther King Jr. zeigt einmal mehr, dass die ethischen Grenzen der generativen KI noch lange nicht feststehen und regelmäßig nachgeschärft werden müssen. Diese neuen Technologien zwingen die Entwickler, aber auch Gesetzgeber weltweit dazu, Persönlichkeitsrechte über den Tod hinaus neu zu bewerten.
Ob OpenAI mit dieser freiwilligen Selbstverpflichtung ein Modell für die gesamte Branche schafft oder ob der Ruf nach staatlicher Regulierung in diesem Graubereich lauter wird, bleibt abzuwarten.
Ein Beispiel dafür ist ein Video, das Schauspieler Paul Walker und Rapper 2Pac zeigt, wie sie einen neuen "Fast and Furious"-Film bewerben. Andere Videos zeigten den Schauspieler Robin Williams sowie den Komiker George Carlin. Auch Martin Luther King Jr. stand in einigen dieser Videos im KI-Rampenlicht.
Angehörige der betroffenen Personen klagten öffentlich über diese Respektlosigkeit. Während lebende Personen bei Sora nur mit deren expliziter Zustimmung für Videos genutzt werden können, gab es für Verstorbene bisher keine Einschränkungen.
OpenAI hat nun angekündigt, die Richtlinien auch für Verstorbene nachzuschärfen und autorisierten Nachlassverwaltern zu ermöglichen, bestimmte Personen für Sora sperren zu lassen. Dieser Schritt geht überraschend über die bisherige rechtliche Praxis in vielen Regionen hinaus.
Es ist davon auszugehen, dass OpenAI nach diesem Vorfall die Filter und Moderationssysteme in Sora tatsächlich deutlich verschärfen wird, um Namen bekannter historischer und verstorbener Persönlichkeiten in diskreditierenden Kontexten zu blockieren. Ganz ohne Diskussionen wird dieser Schritt allerdings nicht gelingen.
Die Debatte um Sora und Martin Luther King Jr. zeigt einmal mehr, dass die ethischen Grenzen der generativen KI noch lange nicht feststehen und regelmäßig nachgeschärft werden müssen. Diese neuen Technologien zwingen die Entwickler, aber auch Gesetzgeber weltweit dazu, Persönlichkeitsrechte über den Tod hinaus neu zu bewerten.
Ob OpenAI mit dieser freiwilligen Selbstverpflichtung ein Modell für die gesamte Branche schafft oder ob der Ruf nach staatlicher Regulierung in diesem Graubereich lauter wird, bleibt abzuwarten.