Systémy umelej inteligencie, známe ako neurónové siete hlbokého učenia, sa čoraz viac využívajú v oblastiach, ktoré by mohli mať obrovský vplyv na zdravie a bezpečnosť, ako je doprava a medicína. Systémy sú postavené tak, aby pomáhali pri rozhodovaní a špecializujú sa na zložité súbory údajov, ktoré ľudia jednoducho nie sú schopní analyzovať.

Ako však vieme, že ich úsudok je správny? Aby sme tento problém zvládli, nová sieť môže poskytovať údaje o svojej miere spoľahlivosti spolu s predikciami. Vedci, ktorí stoja za vývojom, tvrdia, že by to mohlo zachrániť životy. Úroveň dôveryhodnosti systému totiž môže tvoriť rozdielom medzi autonómnym vozidlom, ktoré rozhoduje, že na „križovatke je všetko jasné“ a záverom - „je to pravdepodobne jasné, takže pre každý prípad prestaňte“.



Táto vlastnosť uvedomovania si dôveryhodnosti bola prezývaná „hlboká dôkazná regresia“ a svoju úroveň dôvery zakladá na kvalite dostupných údajov, s ktorými musí pracovať. Táto funkcia vylepšuje predchádzajúce bezpečnostné opatrenia tým, že vykonáva svoju analýzu bez nadmerných výpočtových nárokov.

Systém sa dobre porovnával s existujúcimi nastaveniami a zároveň mal schopnosť odhadnúť svoju vlastnú neistotu. Časy, kedy bola sieť najmenej istá, boli v skutočnosti časy, keď spôsobila chybu.„Táto myšlienka je dôležitá a použiteľná v širšom zmysle,“ vysvetlila jedna z výskumníčok, profesorka Daniela Rusová z Massachusetts Institute of Technology (MIT).

„Môže sa použiť na hodnotenie produktov, ktoré sa spoliehajú na naučené modely. Odhadom neistoty naučeného modelu sa tiež dozvieme, koľko chýb od modelu môžeme očakávať a aké chýbajúce údaje by mohli model vylepšiť,“ uzatvára Rusová.