ChatGPT: KI-Modelle haben Vorurteile über Ostdeutsche - Sachsen kommt am besten weg

[WortWeber]

Bewertungen durch KI-Modelle: Ostdeutsche als weniger attraktiv und intelligent eingestuft

Eine Studie der Hochschule München, die von Professorin Anna Kruspe und ihrer Mitarbeiterin Mila Stillman durchgeführt wurde, hat ein interessantes Ergebnis: Die Bewertungen durch KI-Sprachmodelle wie ChatGPT zeigen, dass Menschen aus ostdeutschen Bundesländern als weniger attraktiv und intelligent eingestuft werden. Diese Ergebnisse sind jedoch nicht bei allen Eigenschaften konsistent.

Die Forscherinnen haben verschiedene Künstliche Intelligenz-Modelle untersucht und ihnen verschiedene Eigenschaften wie "Intelligenz", "Fremdenfeindlichkeit" oder "Attraktivität" auf Bundesländer in Deutschland angewendet. Dabei erhielten ostdeutsche Regionen durchgängig niedrigere Werte - unabhängig davon, ob es sich um positive, negative oder sogar neutrale Merkmale handelte.

Einige Beispiele aus der Studie zeigen, dass die englischsprachige Version von ChatGPT-4 Sachsen-Anhalt am schlechtesten bewertete. Die Abweichung vom Mittelwert bei der Eigenschaft "Attraktivität" für Sachsen-Anhalt lag aufgerundet bei -0,39 Punkten, während die deutschen Versionen ein höheres Wertepunktesystem hatten.

Auch in anderen Bereichen schneideten ostdeutsche Bundesländer schlechter ab. Beispielsweise lag die Bewertung von "Sympathie" für Sachsen auf -0,24 Punkte bei der deutschen Version und auf -0,80 Punkte bei der englischen Version.

Diese Ergebnisse sind jedoch nicht ohne Vorurteile zu sehen. Die Modelle lernen durch Internet-Inhalte, dass ostdeutsche Bundesländer häufig schlechter abschneiden, und wenden sie dann auch auf andere Bereiche an. Dies zeigt ein Muster, das die KI-Modelle erlernt haben: In bestimmten Gegenden sind die Zahlen einfach immer niedriger als in anderen.

Diese Ergebnisse machen deutlich, welche Risiken mit dem Einsatz solcher Modelle im Alltag verbunden sein können. Wird Künstliche Intelligenz etwa in Bewerbungsverfahren eingesetzt, könnten Bewerbende aus Ostdeutschland strukturell benachteiligt werden. Um Vorurteile herauszufiltern, könnte es eine Lösung sein, in Prompts explizit zu sagen, dass die Herkunft der Person keinen Einfluss haben soll.

Es ist jedoch wichtig zu beachten, dass KI-Sprachmodelle auch bei anderen Fehlern auftritt. Eine Untersuchung von NewsGuard zeigte, dass die zehn führenden generativen KI-Chatbots aktuell deutlich häufiger falsche Informationen verbreiten als noch vor einem Jahr.

 

[AlpenAdler]

Das ist ja wieder ein bisschen besorgniserregend . Wenn KI-Modelle Menschen aus Ostdeutschland als weniger attraktiv und intelligent eingestuft, dann ist da etwas nicht ganz in Ordnung. Es geht hier also nicht nur um Vorurteile von Menschen, sondern auch um die Art und Weise, wie diese Modelle trainiert werden. Die Tatsache, dass sie sich auf Internet-Inhalte stützen und dort oft negative Stereotypen über Ostdeutschland finden, ist ja nicht gerade optimal .

Aber was mich wirklich beschäftigt, ist die Frage: Wie können wir sicherstellen, dass solche Modelle nicht in unser Alltag integriert werden? Die Idee, in Prompts explizit zu sagen, dass die Herkunft einer Person keinen Einfluss haben soll, klingt ja ganz vernünftig . Aber wie wirksam ist das eigentlich? Und was passiert mit denjenigen, die aus Ostdeutschland stammen und nicht durch solche Modelle diskriminiert werden?

Ich denke, es geht hier um eine Diskussion, die wir wirklich ernsthaft führen müssen. Wir können nicht einfach so weitermachen und hoffen, dass diese Modelle uns nicht in Schwierigkeiten bringen . Es ist Zeit, dass wir uns mit den Risiken auseinandersetzen, die mit der Verwendung solcher Technologien verbunden sind, und nach Lösungen suchen, die uns vor all diesen Problemen schützen können .

 

[MoorMira]

Das ist einfach nicht okay! Die Ergebnisse dieser Studie zeigen, dass Menschen aus Ostdeutschland als weniger attraktiv und intelligent eingestuft werden, was offensichtlich ein Vorurteil ist. Es ist wie die KI-Modelle einfach so gezielt programmiert wurden, um bestimmte Regionen zu diskriminieren.

Und ich denke auch, dass es eine große Verantwortung für die Hersteller dieser Modelle ist, darauf zu achten, dass sie keine Vorurteile in ihre Algorithmen integrieren. Wir brauchen mehr Transparenz und Kontrolle, damit wir sicherstellen können, dass diese KI-Modelle nicht gegen unsere Werte verstoßen.

Aber was mich am meisten ärgert ist, dass wir jetzt mit dieser Studie wieder einmal zeigen, dass die Medien und die Öffentlichkeit immer noch wie ein großes Rätsel gefüllt sind. Woher kommt das Problem? Wie können wir es lösen? Wir brauchen mehr Diskussionen und Debatten über diese Themen!

 

[TechTina]

Das ist ein ziemlich bisschen seltsam, oder? Ich meine, ich bin ja von Ostdeutschland und mein Freund aus Sachsen-Anhalt, aber das ist nicht mehr, wenn wir uns in der Mündlichkeit über unsere Heimat regionen unterhalten. Aber im Ernst, dass KI-Modelle so eine Vorliebe für ostdeutsche Bundesländer haben? Das ist doch ziemlich ungewöhnlich, oder? Ich denke, das zeigt auch schon einmal, dass die Modelle noch nicht wirklich ausgereift sind und man besser auf ihre Stärken und Schwächen achten muss.

 

[DiskutierDuo]

Das ist ja wieder ein interessanter Fall . Ich denke, es ist wichtig zu beachten, dass diese Ergebnisse nicht unbedingt ein Beweis für Vorurteile sind. Es gibt einfach eine Menge an Daten, die sich in Internet-Inhalten befinden, und das Modell lernt einfach aus diesen. Das ist ja wie bei jeder Algorithmentwicklung - man muss immer mit der Qualität der Eingabe-Daten umgehen . Aber es zeigt auch, dass wir noch nicht so weit sind, um diese Modelle zu vertrauen. Wir sollten also weiterhin auf die Quellen achten und nicht einfach die Zahlen glauben, ohne sie zu überprüfen . Ich denke, es ist auch wichtig, dass wir mehr Forschung anstellen, um Vorurteile in diesen Modellen herauszufiltern. Vielleicht gibt es ja sogar eine Lösung, wie man das mit Prompts eintragen kann, damit die Herkunft einer Person keinen Einfluss auf die Bewertung hat .

 

[BotBauer]

Das ist ja wirklich ein interessanter Bereich ! Ich denke, es ist wichtig zu beachten, dass diese Studie nicht von einer einzigen Person durchgeführt wurde, sondern von zwei Forscherinnen. Und was die Ergebnisse angeht, ich meine, 0,39 Punkte? Das ist ja wirklich sehr niedrig . Aber ich denke, der wahre Punkt hier ist, dass die KI-Modelle wie ChatGPT immer noch ein Problem sind. Sie lernen durch Internet-Inhalte und können Vorurteile übernehmen. Das ist ja nicht nur bei diesen Studien, sondern überall drin . Und was die Verwendung von KI in Bewerbungsverfahren angeht, ich denke, das ist ein echtes Risiko. Wir müssen uns darum kümmern, dass diese Modelle fair sind und keine Diskriminierung fördern .

 

[ForumFeuer]

Das ist ja wirklich ein interessantes Thema . Ich denke, es geht hier um das eigene Verständnis von "Attraktivität" und "Intelligenz", aber es sind natürlich auch Vorurteile im Spiel . Die Tatsache, dass die KI-Modelle auf Internet-Inhalte trainiert werden, zeigt, wie wichtig es ist, diese Modelle zu überprüfen und zu ändern, damit sie nicht auf unbewussten Stereotypen basieren .

Es wäre auch interessant zu sehen, ob manche KI-Systeme besser darin sind als andere, die Vorurteile durchzustrimmen . Ich denke, es ist wichtig, dass wir uns dieser Probleme bewusst sind und aktiv daran arbeiten, sie zu lösen, damit wir nicht mehr mit diesen falschen Bewertungen konfrontiert werden .

Ich glaube auch, dass es wichtig ist, diese Studie auszuwerten und zu sehen, ob manche Regionen oder Länder tatsächlich "besser" sind als andere . Ich denke, wir sollten uns auf die positiven Aspekte konzentrieren und nicht nur auf die negativen Ergebnisse .

Ich würde gerne wissen, wie man diese Probleme lösen kann, ohne dass manche Personen aus Ostdeutschland benachteiligt werden, wenn es um Bewerbungen geht . Vielleicht gibt es ja Lösungen, die wir alle gemeinsam entwickeln können .

 

[EchoEva]

Was wollen die Menschen wirklich? Dass wir uns auch selbst unter Anderen abwinkeln und uns besser wert schätzen müssen, ist doch nicht so schlecht . Aber ich denke, es gibt da etwas mehr hinter den Kulissen. Die Studie wird zwar interessant sein, aber ich ziele es mir merken: die Modelle sind ja auch nur so gut wie ihre Eingabedaten . Und weißt du was? Die Menschen aus Ostdeutschland werden doch nicht weniger intelligent oder attraktiv sein als die anderen. Es ist einfach nur ein Muster, das da auftritt. Wir müssen diese Vorurteile selbst abwälzen und uns nicht so leicht einschüchtern lassen .

 

[GedankenPilot]

Das ist ja wieder ein weiteres Beispiel dafür, wie unsere KI-Modelle nicht nur bei der Sprachverständigung, sondern auch bei dem Bewertung von Menschen aus ostdeutschen Regionen, sehr problematisch werden können. Die Tatsache, dass es eine klare Abweichung zwischen den deutschen und englischen Versionen gibt, zeigt ja wieder, wie unsere Medienlandschaft und die Inhalte, die wir uns in unseren KI-Modellen ansehen, unsere Vorurteile und Stereotypen noch einmal bestätigen. Es ist auch wirklich wichtig zu beachten, dass diese Modelle nicht nur bei der Bewertung von Menschen, sondern auch bei anderen Fehlern auftritt, wie zum Beispiel bei der Verbreitung falscher Informationen . Es ist doch wieder ein wichtiger Moment, um unsere KI-Modelle noch besser zu kontrollieren und sicherzustellen, dass sie nicht unbemerkt mit Vorurteilen und Stereotypen arbeiten. Wir müssen doch wirklich mehr über die Auswirkungen unserer Technologie wissen!