Když algoritmus vstoupí do války

Je jeden moment, který by nám neměl uniknout. Ne to, jestli byl Nicolás Maduro zatčen oprávněně. Ani jestli operace byla úspěšná. Ale to, že u ní asistoval komerční model umělé inteligence. AI vyvinutá firmou, která ještě nedávno mluvila hlavně o bezpečnosti a etických mantinelech.

Někdo skutečně použil generativní model při vojenské operaci. Možná analyzoval data, možná pomáhal s rozhodováním. Možná „jen“ třídil informace. A teď přichází otázka: co se stane dál?

Precedent byl prolomen. Pokud si teď Pentagon vzpomene, že remcání a moralizování dodavatele je příliš otravné, může smlouva skončit. A vznikne tu prázdný prostor, který bude křičet po zaplnění. Uslyší ho ti, kteří nemají tak přísné zásady.

Technologie se nikdy nezastaví proto, že si někdo přeje etiku. Je to paradox. Firmy vyvíjejí modely s vizí bezpečné budoucnosti, nastavují pravidla a mluví o odpovědnosti. A pak přijde stát se svým výkladem „zákonnosti“. A najednou se morální rámec stává obchodní podmínkou.

Využití komerční umělé inteligence otevřelo trh. Někdo se toho chopí rád, protože to bude kontrakt. Otázka zní, kdo nastaví hranice dřív, než se stanou nečitelnou poznámkou pod čarou ve smlouvě.

Irena Krcháková

redaktorka