ARCUHN

ARC Lab

Nr. 03 ·

Read in English: ENNL

Ze zagen de school. De database niet.

ARC-analyse · Anomaly, Reframe, Create

Kort

AAnomaly

Op 28 februari 2026 trof een Amerikaanse raket een basisschool in Minab, Iran. Meer dan 120 kinderen kwamen om 1, 2. In 2019 had een Amerikaanse analist gezien dat het gebouw nu een school was. Hij schreef het op, in een tool die niet gekoppeld was aan de database voor doelen 2, 3. Onderzoekers noemden "te veel vertrouwen op AI-technologie" als een van de oorzaken 1.

RReframe

De kennis was er. Ze zat op de verkeerde plek, en iedereen vertrouwde erop dat iemand anders, of iets anders, het zou checken. AI maakte dat gat niet. AI maakte het snel.

CCreate: vragen voor je team

  1. Als iemand ziet dat er iets veranderd is, bereikt dat dan het systeem dat beslist?
  2. Wat verwachten wij dat onze tools checken, terwijl ze dat nooit beloofd hebben?

Rethink the premise.

Verder lezen Het hele stuk, met alle bronnen

AAnomaly

Op 28 februari 2026 trof een Amerikaanse raket een basisschool in Minab, Iran. Meer dan 120 kinderen kwamen om 1, 2. Volgens Bloomberg, dat sprak met betrokkenen bij het interne onderzoek van het Pentagon, was het niet één rampzalige beslissing, maar "een opeenstapeling van kleinere" 1.

Het terrein hoorde ooit bij een militair complex. In 2019 zag een Amerikaanse analist dat het veranderd was. Hij schreef het op, in een digitale tool die niet gekoppeld was aan de officiële database voor doelen. In de jaren daarna werd hetzelfde gebouw nog een paar keer bekeken, zonder dat iemand die database bijwerkte 2, 3. Op de eerste dag van de oorlog moesten meer dan 1.000 doelen worden afgehandeld. Onderzoekers noemden tijdsdruk, gaten in de data, bezuinigingen op mensen die burgers moeten beschermen, en "te veel vertrouwen op AI-technologie" 1.

Onderzoek naar automation bias laat een patroon zien. Mensen die met geautomatiseerde systemen werken, gaan vertrouwen op wat het systeem meldt, en missen wat het niet meldt. Wie zich persoonlijk verantwoordelijk voelde voor hoe hij het systeem gebruikte, checkte meer en maakte minder fouten 4.

RReframe

De koppen zeggen: AI doodde kinderen. De hardere waarheid is stiller. De kennis was er. Iemand zag het. Iemand schreef het op. Het bereikte nooit het systeem dat besliste. Elke stap was op zichzelf logisch: een notitie in de ene tool, een database in de andere, een systeem waarvan iedereen aannam dat het klopte. Samen kwamen de notitie en de beslissing nooit bij elkaar. AI repareert geen oude data. AI maakt oude data snel.

Dit is een verhaal over een oorlog. Daaronder is het een verhaal over data, en dat deel is niet alleen militair.

CCreate: vragen voor je team

  1. Als iemand ziet dat er iets veranderd is, bereikt dat dan het systeem dat beslist?
  2. Wie is eigenaar van onze oude data?
  3. Wat verwachten wij dat onze tools checken, terwijl ze dat nooit beloofd hebben?

Rethink the premise.

Bronnen

  1. Inside US Military 'Kill Chain' That Destroyed an Iranian SchoolBloomberg (Bartenstein & Karra) · 2026 · Investigation, 18 Sep, based on officials of the internal inquirySterk · paywall; original read via screenshots
  2. U.S. analyst's missed remark surfaced in Iran school strikeBloomberg (Manson), via Los Angeles Times · 2026 · Investigation, 28 JunSterk · paywall; original read via screenshots
  3. The US military used AI to pick thousands of targets but missed a note saying one was a schoolThe Decoder · 2026 · News, summarising Bloomberg · https://the-decoder.com/the-us-military-used-ai-to-pick-thousands-of-targets-but-missed-a-note-saying-one-was-a-school/Middel · secondary, open access
  4. Automation bias: decision making and performance in high-tech cockpitsMosier, Skitka et al., NASA · 1997 · Experiments · https://ntrs.nasa.gov/citations/20020043179Sterk