Poradný orgán Pentagonu vydal súbor usmernení „AI ethics“ pre „zodpovedné“ používanie autonómnych zbraní, zastaví však vývoj týchto bezduchých vraždiacich strojov?

Po celom svete sa umelá inteligencia (AI) stáva stále väčším faktorom, ktorý bude definovať budúce vojny. Avšak vedci a niektorí technickí lídri bijú na poplach - varujú, že ak bude nainštalovaná na zbraňové systémy, mohla by sa AI nakoniec naučiť, ako robiť nezávislé rozhodnutia počas boja.

Americké ministerstvo obrany (DoD) sa snaží tieto obavy zmierniť. Rada pre obranné inovácie (DIB), poradenská organizácia Pentagonu, vydala súbor piatich zásad pre AI, ktoré dostali jednohlasné schválenie.

Aj keď niektoré hlavné americké médiá ocenili tento súbor, ukázalo sa, že je prekvapivo krátky, pokiaľ ide o špecifiká, a nedokáže stanoviť veľa limitov, za ktoré kritici AI bojujú.

Podľa Pentagonu musí byť AI dostatočne spoľahlivá na to, aby mohla plniť svoje naprogramované funkcie, a musí byť „sledovateľná“, aby ju mohli potenciálne usmerniť externí pozorovatelia. Ľudia by mali byť stále zodpovední za vývoj, nasadenie a výsledky AI.

Ďalší princíp vyžaduje, aby bol systém AI schopný analyzovať svoje vlastné kroky a zastaviť sa, len čo zistí, že môže spôsobiť zbytočné poškodenie. Mala by existovať aj možnosť odovzdať kontrolu ľudskému operátorovi.

„Odporúčania DIB pomôžu posilniť záväzok DoD dodržiavať najvyššie etické štandardy uvedené v stratégii s umelou inteligenciou a zároveň prijať silnú históriu americkej armády pri uplatňovaní prísnych testovacích štandardov pre technologické inovácie,“ uviedol generálporučík letectva John N.T. „Jack“ Shanahan, riaditeľ Spoločného centra umelej inteligencie.

Zostáva zistiť, či táto správa zmení a doplní niektorý zo skutočných plánov Pentagonu, pretože sa domnieva, že AI pomôže americkej armáde poraziť protivníkov ako Čína alebo Rusko.