KI-Apologeten sprechen oft von einem KI-Killswitch. Also eine Möglichkeit, die KI im »Notfall« abschalten/kontrollieren zu können. Mir hat aber noch niemand schlüssig erklären können, wie ein solcher Killswitch implementiert werden soll. Ich behaupte: Es ist nicht möglich. 🧙♂️
@kuketzblog ich bin der Meinung eine Diskussion über einen Killswitch ist ein Critihype. Es lenkt von wichtigeren Fragen ab. Z.B. warum die Systemkarte von ChatGPT4 Risiken für die Privatsphäre auf knapp einer halben Seite "abhandelt".
@kuketzblog Das sehe ich auch so. Tom Hillenbrand hat zu dem Thema zwei wie ich finde sehr gute Romane geschrieben "Hologrammatica" (Band 1) und "Qube" (Band 2). Wenn auch "nur" im Roman hat dort das Ausschalten auch nicht funktioniert und es wird sehr schön dargestellt, warum.
@kuketzblog Das funktioniert so gut wie eine beliebte Website vom Netz zu nehmen. Die Kopien leben weiter und vermehren sich. Stichwort Hydra.
Ab einer gewissen Komplexitätsstufe funktionieren heutige Methoden nicht mehr, weil die KI sie kennt und überlisten wird.
@kuketzblog Blöde Frage: Wenn wir beim Bau einer KI schon über die Notwendigkeit eines Kill-Switches diskutieren, wäre es dann vielleicht nicht besser, die KI gar nicht erst zu bauen?
Add comment