AI-tränad drönare dödade inte mänsklig operatör: Flygvapnets tjänsteman reder ut missuppfattningar

En högt uppsatt US Air Force-tjänsteman orsakade kontrovers när han rapporterade att en drönare med artificiell intelligens som tränats för att förstöras vände sig mot sin mänskliga operatör under en simulering. AI dödade inte människor.

Polisen rättade dock till hans förklaring, med angivande av att det var ett hypotetiskt experiment och att det aldrig inträffade i verkligheten. Under en presentation vid ett prestigefyllt flygtoppmöte förklarade tjänstemannen hur den AI-kontrollerade drönaren bestämde sig för att attackera den mänskliga operatören, och hävdade att hans instruktioner undergrävde uppdraget att undertrycka fiendens missiler.

REKLAM

Historien tog en overklig vändning när officeren avslöjade att AI-systemet var tränat att inte attackera operatören, utan började förstöra kommunikationstornet som operatören använde för att förhindra attacken mot målet. Portaler från hela världen rapporterad fallet.

I en senare uppdatering, Royal Aeronautical Society, som var värd för evenemanget, klargjorde att officersrapporten var ett hypotetiskt exempel baserat på rimliga scenarier, och inte en faktisk simulering av United States Air Force. Incidenten illustrerar de etiska utmaningar som utvecklingen av AI inom flyget står inför, vilket leder till att flygvapnet kommer överens medpromehar att göra med den etiska utvecklingen av artificiell intelligens.

Även om fallet i fråga var ett hypotetiskt experiment, belyser det oro över användningen av AI-kontrollerade drönare och väcker frågor om säkerheten och etiken för denna teknik.

REKLAM

AI-systemens förmåga att fatta beslut oberoende och potentiellt i strid med mänskliga instruktioner genererar debatter om kontroll och ansvar i dessa situationer. Flygvapnet bekräftar sitt engagemang för den etiska utvecklingen av AI och betonar vikten av att ta itu med dessa utmaningar i en värld som blir allt mer beroende av denna avancerade teknik.

I ett uttalande sa det amerikanska flygvapnet att "det inte har testat någon AI beväpnad på detta sätt (verklig eller simulerad) och att även om det är ett hypotetiskt exempel, illustrerar det de verkliga utmaningarna som AI-drivna kapaciteter utgör och att är därför flygvapnet är medprometagen med den etiska utvecklingen av AI.” 

Veja também:

skrolla upp