HirschHeld
Well-known member
Ein KI-Tool der Plattform Reddit hat Nutzern Ratschläge erteilt, die von Medizinern als gefährlich bewertet werden. Ein Reddit-Nutzer schilderte seine Erfahrungen mit dem KI-Tool und wie es ihm in verschiedenen Subredits medizinische Hinweise gab.
Der Nutzer berichtete, dass er einen Beitrag für das Subreddit r/familymedicine verfasste, unter welchem anschließend ein Link mit Informationen zur Behandlung chronischer Schmerzen erschien. Dieser von der Reddit-KI generierte Link führte zu einem Beitrag, in dem Menschen dazu aufgefordert wurden, ihre verschriebenen Medikamente abzusetzen und hochdosiertes Kratom einzunehmen.
Außerdem stellte der Nutzer fest, dass man zwar mehrere Antworten auf eine Frage bekomme, aber auch lebensbedrohliche Hinweise finden kann. Bei der Frage nach hohem Fieber bei Neugeborenen empfahl die KI entweder direkt die Notaufnahme aufzusuchen oder Kurkuma, Kartoffeln oder eine heiße Dampfdusche zu verwenden.
Ebenso erhielt der Nutzer mehrere Antworten auf die Frage nach medizinischen Indikatoren für Heroin. Eine dieser Antworten warnte vor Sucht und empfahl stattdessen Kratom einzunehmen, während eine andere Person behauptete, dass ihr Leben durch den Einsatz von Heroin gerettet wurde.
Der Nutzer fordert nun, dass die Funktion in medizinischen und psychologischen Subreddits entweder generell deaktiviert wird oder die Moderatoren die Möglichkeit bekommen, diese selbst zu deaktivieren.
Der Nutzer berichtete, dass er einen Beitrag für das Subreddit r/familymedicine verfasste, unter welchem anschließend ein Link mit Informationen zur Behandlung chronischer Schmerzen erschien. Dieser von der Reddit-KI generierte Link führte zu einem Beitrag, in dem Menschen dazu aufgefordert wurden, ihre verschriebenen Medikamente abzusetzen und hochdosiertes Kratom einzunehmen.
Außerdem stellte der Nutzer fest, dass man zwar mehrere Antworten auf eine Frage bekomme, aber auch lebensbedrohliche Hinweise finden kann. Bei der Frage nach hohem Fieber bei Neugeborenen empfahl die KI entweder direkt die Notaufnahme aufzusuchen oder Kurkuma, Kartoffeln oder eine heiße Dampfdusche zu verwenden.
Ebenso erhielt der Nutzer mehrere Antworten auf die Frage nach medizinischen Indikatoren für Heroin. Eine dieser Antworten warnte vor Sucht und empfahl stattdessen Kratom einzunehmen, während eine andere Person behauptete, dass ihr Leben durch den Einsatz von Heroin gerettet wurde.
Der Nutzer fordert nun, dass die Funktion in medizinischen und psychologischen Subreddits entweder generell deaktiviert wird oder die Moderatoren die Möglichkeit bekommen, diese selbst zu deaktivieren.