Und das ist halt das Problem bei der Sache. Die KI gibt schnelle Antworten, aber die müssen nicht richtig sein. Weil sie sich einerseits in einem Internet bedient, in das jeder jeden Mist schreiben kann. Und andererseits denkt sie sich bekanntermaßen auch einfach mal irgendwas aus, um den Eindruck von Kompetenz zu erwecken.
Es ist halt vom Prinzip her der gleiche Mist, wie wir ihn schon bei dem thread über die Qualität von Temu-Kram hatten:
Man erhält ein "Produkt" geliefert, für das es faktisch keine Gewährleistung gibt, wenn Du dich darauf verlässt, und dann damit auf die Fresse fliegst.
Das kann harmlos sein, wenn man ne falsche Info zu einer Regel in einem Spiel bekommt. Das fällt dann vielleicht erst später auf und man ärgert sich über ne Situation, die vielleicht einen Spieler zu unrecht bevorteilt hat. Das wars aber eher auch schon.
Wirklich problematisch mit echten und gravierenden Folgen für den Verwender wird es dann, wenn die KI ihrem aktuellen Drang folgt, und Dir freierfundene Scheiße erzählt. Ist ja auch naheliegend: Wenn ChatGPT mir sagt: "Sorry, das weiß ich nicht", dann wechsel ich halt zu zB Grok oder umgekehrt. Da Musk oder Altman keinen Bock haben, Nutzer an die Konkurrenz zu verlieren, muss das Ziel der KI natürlich sein, den User an sich zu binden. Und das um fast jeden Preis mit erfundenen Zeug. 🤷♂️
Ich hab nur bedingt Mitleid mit den juristischen Kollegen, die sowas allen Ernstes in einem Schriftsatz vor Gericht verwenden, aber eines muss jedem Verwender jederzeit klar sein: Die komplette Verantwortung und Haftung für die Verwendung von KI-Antworten liegt nicht bei der KI selbst, sondern beim Verwender. Das mag für manche recht banal klingen, mE ist das aber ein Umstand, den bislang viel zu wenige wirklich begriffen haben.
