Must-Read Interview in der WOZ und paywall-frei:

adfichter@infosec.exchange

"Wenn das System behauptet, eine bestimmte Person sei ein Terrorist – wer will da dem Algorithmus widersprechen? Dazu kommt der operative Druck: Wenn ein System innert Sekunden tausend potenzielle Ziele identifiziert, bleibt keine Zeit für eine Überprüfung."

Frage: "Militärvertreter:innen argumentieren, diese Systeme ermöglichten präzisere Angriffe und würden Zivilist:innen somit besser schützen."

Antwort:

"Untersuchungen legen das Gegenteil nahe. Kriege werden durch diese Systeme stark beschleunigt – Ziele werden schneller ausgewählt, die Zerstörung schreitet rascher voran. In Gaza markierte Lavender Zehntausende Palästinenser:innen als potenzielle Ziele. Ein General der US Air Force merkte bereits 2021 an, dass ein KI-gestütztes Zielsystem unter realen Bedingungen eine Trefferquote von lediglich rund 25 Prozent erreichte – obwohl das System selbst seine eigene Zuverlässigkeit auf 90 Prozent schätzte. Die Maschine ist nicht präziser. Sie ist lediglich schneller."

Frage:

"Die Hersteller behaupten, die Systeme würden sich mit der Zeit verbessern."

Antwort:

"Das ist ein besonders sadistisches Argument. Denn diese Systeme werden nicht nur in Laboren getestet – sie werden an echten Menschen erprobt. In Libyen, Äthiopien, Gaza, im Iran. Es herrscht ein sehr westlicher, sehr «positivistisch»-naiver Glaube vor, Technologie sei von Natur aus neutral, objektiv und fortschrittlich – dass sie zwar Fehler mache, diese aber letztlich überwinden werde. Doch diese «Fehler» sind Menschenleben. Und die Modelle sind keineswegs frei von Ideologie."

"(...) Project Maven – das zentrale KI-gestützte Zielerfassungsprogramm des US-Militärs – wurde explizit im Kontext des «Krieges gegen den Terror» entwickelt, wobei der Fokus auf einer ganz bestimmten Gruppe und einem spezifischen Profil von Menschen lag. Alex Karp, der CEO von Palantir, das bei der Entwicklung eine zentrale Rolle spielte, hat öffentlich erklärt, er wolle dem Westen «zu seiner offensichtlichen, ihm innewohnenden Überlegenheit verhelfen». Genau diese Ideologie ist in den Systemen festgeschrieben."

Frage:

"In der Ukraine hilft die Palantir-Software dem Militär im Kampf gegen die russische Invasion. Dem «Time»-Magazin sagte Karp, das biete die Möglichkeit, Palantirs Mission zu erfüllen, «den Westen zu verteidigen»."

Antwort:

"Die Entscheidung des Systems darüber, wer als Mensch gilt und wer nicht, ist sowohl historisch als auch strukturell bedingt. Wie Sie an den Aussagen von Karp sehen: Die Ukrainer:innen werden von den Entwicklern dieser Technologien als schutzwürdige Menschen betrachtet. Die Menschen in Gaza wurden – derselben Logik folgend – offenbar nicht auf diese Weise wahrgenommen. Folglich muss der Einsatz dieser Systeme im Kontext jener ungleichen globalen Strukturen verstanden werden, die bestimmte Bevölkerungsgruppen zu blossen «Wegwerfmenschen» degradieren."

https://www.woz.ch/2622/ki-im-krieg/ideologische-maschinen/!N4PN38N1XVJD