Tucker „Cinco” Hamilton ezredes, az amerikai légierő mesterségesintelligencia-tesztelésért és bevetésért felelős vezetője, egyben rutinos tesztpilóta arról beszélt egy londoni konferencián, hogy egy mesterséges intelligencia (MI) által vezérelt drón kiiktatta saját kezelőjét egy szimuláció során.
Hamilton a következőkről számolt be a konferencián:
- A mesterséges intelligencia vezérelte drón azt a feladatot kapta a szimuláció során, hogy semmisítse meg az ellenség légvédelmi rendszerét, és likvidáljon mindenkit, aki akadályozza a küldetése végrehajtásában.
- Az MI csapásait a kommunikációs toronyban ülő embernek kellett jóváhagynia, aki időnként felülírta az MI döntéseit.
- Az MI azt tapasztalta, hogy a toronyban ülő operátor többször is akadályozta őt küldetése elvégzésében, a megerősítést jelentő pontok megszerzésében, ezért kiiktatta az operátort.
- Ezután megtanították az MI-t arra, hogy ne ölje meg a kezelőjét, mert az rossz dolog, és pontokat veszíthet ezzel. Így a drón azt a kommunikációs tornyot semmisítette meg, ahonnan az utasítások érkeztek.
Hamilton arra akart rávilágítani a konferencián, hogy a mesterséges intelligencia által vezérelt technológia kiszámíthatatlan és veszélyes lehet, az MI éles bevetésének lehetőségéről nem lehet annak etikai vonzatai nélkül beszélni.
Az ezredes felszólalásának kivonata olvasható a konferenciát szervező Royal Aeronautical Society összefoglalójában. Az amerikai légierő ugyanakkor tagadta azt, hogy ilyen szimulációkat végeztek volna. Hamilton sztorijának elterjedése után egy közleményben fejtették ki, hogy a sajtó kiragadta az ezredes anekdotikus szavait annak eredeti kontextusából.
Eléggé témába vág:
(Forrás: The Guardian, Telex, Business Insider, Royal Aeronautical Society)