Es geht los. Während KI Einzug in die Arbeitsprozesse vieler Firmen hält, häufen sich die Fälle von Schäden aufgrund fehlender Übersicht. Besonders gravierend ist es, wenn Menschen aufgrund einer Fehldiagnose, hervorgerufen durch Halluzinationen einer KI, falscher Behandlungen unterworfen werden.
Ich empfehle den oben verlinkten Artikel gut durchzulesen. Es zeigt ein Handlungsmuster, welches wir vermutlich noch häufig wieder finden werden, wenn wir von einem sogenannten Automatisierungsbias sprechen. KI-Prozesse werden anfänglich noch auf Plausibilität überprüft, sobald jedoch größere Datenmengen damit bearbeitet werden fehlt die menschliche Übersicht.
Etwas ausführlicher habe ich über diesen Fall bereits für FacultyAI geschrieben.