Frage: Was passiert wenn eine starke KI in die falschen Hände fällt?

Stefan Hillmann Beantwortet am 17 Jun 2025:

Auch das ist eine spannende Frage, nicht zuletzt, weil dahinter ja auch steckt, ob oder wann eine starke KI entwickelt wird. Sam Altmann, einer der Chefs bei OpenAI, hat gerade erst wieder gesagt, dass der Punkt nah ist. OpenAI hat ChatGPT entwickelt und hier ist der Link zu einem Artikel dazu: https://www.golem.de/news/large-language-models-wie-nah-sind-wir-an-der-singularitaet-in-der-ki-2506-197155.html

Singularität in der KI meint den Zeitpunkt, an dem eine starke KI in Betrieb geht. Starke KI meint ein System, das bzgl. der Intelligenz gleich stark oder besser als wir Menschen ist. Diskutiert wird dieses Thema besonders, weil davon ausgegangen werden kann, dass ein System, das so intelligent wie ein Mensch ist, sich selber verbessern kann. Zum Beispiel in dem es sich selber mit neuen Daten trainiert oder seine Umgebung (andere Programme) an seine Bedürfnisse anpasst. Dadurch könnte sich eine starke KI selber immer intelligenter machen.

Bei der Frage nach den „falschen Händen“ sehe ich die Gefährlichkeit ähnlich wie bei Menschen, die ihre Fähigkeiten für die falsche Sache einsetzen. Auch gilt für (fast?) jede Technologie, dass mit ihr gutes und schlechtes getan werden kann.

Wir als Menschen müssten vor allem entscheiden, ob wir eine starke KI wirklich entwickeln wollen bzw. was moralischen und ethischen Konsequenzen sind, wenn wir das tun.