Kann ein Algorithmus von anderen Leuten kontrolliert werden?

Frage: Kann ein Algorithmus von anderen Leuten kontrolliert werden?
- Stichworte:
  Algorithmus,
  Dystopie,
  Kontrolle
Frage gestellt band32ted am 23 Jun 2025.
- Kathrin Lammers Beantwortet am 23 Jun 2025:
  
  Ja, natürlich – man sieht z.B. jetzt schon, dass ein chinesisches KI Modell (DeepSeek) keine Informationen zu bestimmten Dingen aus der chinesischen Geschichte zurückgibt. Algorithmen werden immer von Menschen kontrolliert. Wenn du mit „anderen“ Leuten nicht die EntwicklerInnen des ALgorithmus meinst, kann das aber trotzdem passieren – z.B., indem man die Daten, die der Algorithmus bekommt, beeinflusst. Das nennt sich dann „Data Poisoning“ oder „Adversarial Attack“, und passiert z.B. mit Bilddaten.
- Jens-Bastian Eppler Beantwortet am 23 Jun 2025:
  
  Ein Algorithmus macht immer genau das, was andere Menschen ihm sagen. Man sagt einfach einer Maschine, was sie zu tun hat. Sie führt das uas. Das ist eine vereinfachte Definition eines Algorithmus.
  
  Bei KI ist das anders. Diese lernt aus Beispielen. Da kann man nur kontrollieren, aus welchen Beispielen sie lernen soll.
- Felix Döppel Beantwortet am 23 Jun 2025:
  
  Ja. Ein Algorithmus ist an sich nur eine sehr strukturierte Anleitung für Rechenvorgänge. Ein Mensch schreibt also einen Algorithmus, und die Maschine, also zB dein PC oder Handy, führt ihn genau so aus. Sobald also jemand einen Algorithmus anpasst, so ändert sich auch das Ergebnis das dir angezeigt wird. Das merkt man an vielen Stellen im Alltag, etwa wenn die Reihenfolge der Google-Suchergebnisse oder Instagram posts verändert wird, um „gesponserte“ Beiträge ganz oben zu zeigen und unangemessene Inhalte zu verstecken.
  Im Bezug auf KI zielt deine Frage wahrscheinlich darauf ab, ob einzelne Personen oder Unternehmen beeinflussen können, was für Antworten du von Sprachmodellen wie ChatGPT erhälst. Auch hier lautet die Antwort grundsätzlich: Ja.
  Die Antworten der Modelle werden im Hintergrund durch gezieltes Training beeinflusst, die Ergebnisse des Modells werden gefiltert und ggf. bearbeitet bevor sie dir angezeigt werden, und auch der „Algorithmus“, also die Art und Weise, wie ChatGPT überhaupt eine Antwort findet, kann jederzeit abgeändert werden. Es gibt nämlich nicht nur „das eine“ ChatGPT, sondern verschiedene Versionen ähnlicher Modelle, die im Hintergrund antworten für dich erzeugen.
  Eine Ausnahme besteht, wenn du das Programm „lokal“, also vollständig auf deinem eingenen Rechner ausführst. Einige öffentlich komplett zugängliche Versionen von KI Assistenten (wie „LLAMA“ von Facebook) lassen sich herunterladen und nach belieben selbst ausführen und verändern. Dafür ist aber einiges an technischem Geschick und ein extrem guter Rechner notwendig. Oft lässt sich daher nur eine „abgeschwächte“ Version des Modells installieren.