Künstliche Intelligenz in der Praxis

[Performer of Miracles]

Die Apple Serie Silo zeigt ja im Grunde auch sehr anschaulich, wie man die Menschheit bis auf kurze Phasen von punktueller Rebellion unter Kontrolle halten könnte.

 

[beetlemeier]

KI bricht aus Sandbox aus: OpenAI schlägt neue Art von Sicherheitsregeln vor​

Ein KI-Modell von OpenAI hat wiederholt Wege gefunden, Sicherheitsmechanismen zu umgehen. Die Entwickler designen daher ein anderes Monitoring-System.

Mir ist eine Sache noch unklar: War das "Ausbrechen" jetzt per se als Handlungsalternative ausdrücklich verboten, nicht thematisiert worden oder im Gegenteil erlaubt?
-Wenn das Ausbrechen erlaubt war, dann ist das zwar sicherheitstechnisch nicht schön, aber halt ein erwartbarer Effekt.
-Wenn das Ausbrechen nicht programmiert wurde, ist es zwar hinsichtlich Kreativität der KI beunruhigend, aber eher noch ein Entwicklerfehler.
-Wenn das Ausbrechen trotz "Verbot" erfolgte, dann ist das -menschlich gedacht- schon eine selbstständige Handlung mit klar negativen Effekten. Wenn eine KI sich selber für andere schädliche Handlungsmechanismen trotz gegenteiliger Vorgaben erlaubt, dann wäre das wirklich eine verstörende Nachricht.

---

Also wie umgehen mit den Aliens (oder gar dem Leben) die wir selbst erschaffen haben?

Tja, ist halt die Frage, wo Du jemandem eine Art "Schuld/Verantwortung" konkret zurechnen kannst:
Wenn eine KI Mist baut, beginnst und endest Du da bei der KI selbst? D.h. eventuelle Programmierfehler bleiben unberücksichtigt? Oder wie seriös der Eigentümer einer solchen Firma mit Sicherheitsvorschriften umgegangen ist? Nach meiner Kenntnis gibt es noch keine konkreten Pläne irgendwo auf der Welt, einer KI eine zivil- oder gar strafrechtliche Verantwortlichkeit zu übertragen. Und das dürfte auch nach meiner Einschätzung nur schwer bis unmöglich zu begründen sein.
Es gibt im deutschen Strafrecht den bekannten Spruch: "Schuld ist staatsnotwendige Fiktion". Damit wird zum Ausdruck gebracht, dass es bereits beim Menschen ziemlich heikel ist, eine Schuld klar zu belegen oder zu definieren. Und es gibt ja neurologische Forschung, wonach Handlungen erfolgen, bevor im Gehirn überhaupt der "Befehl" zur Ausführung dieser Handlungen gegeben wurde. Da bleibt eigentlich nicht viel Schuld im Sinne von "Vorwerfbarkeit der Handlung" übrig, wenn Dein Körper vor Deinem Bewusstsei/Gehirn handelt. Wie soll das erst bei KI funktionieren? 🤷‍♂️
Und mal angenommen, man bejaht irgendwann die Strafmündigkeit von sowas: Wie sollten Strafen aussehen und wer vollstreckt diese?

Wirklich interessantes Thema mit vielen Aspekten. Ich wünschte mir nur, das Ganze wäre rein theoretischer Art und nicht mit so nem enormen praktischen Bezug...😵