Hur kommer framstegen inom artificiell intelligens att förändra hur konflikter kommer att utvecklas under 2000-talet? Kommer ny teknik, som artificiell intelligens, en dag resultera i krig som utkämpas av automatiserade robotar, och människor kommer att försvinna helt på detta sätt? När stater beväpnade med den senaste tekniken dominerar den globala politiska teatern, kommer mer kraftfulla verktyg att möjliggöra snabba och avgörande segrar?
Dessa och andra frågor utforskades av John R. Lindsay, docent vid Georgia Institute of Technology, som studerar informationsteknologins inverkan på global säkerhet. Janice SteinBelzberg är professor i konflikthantering vid University of Torontos institution för statsvetenskap, fakulteten för konst och vetenskap, och grundare av Munk School of Global Affairs and Public Policy.
Evenemanget, som arrangerades av Munk School och Schwartz Reisman Institute of Technology and Society (SRI), modererades av direktören för Munk School och SRI Associate Director. Peter Loewen.
Lindsay, å sin sida, sa att många allmänna antaganden om teknikens inverkan på krigets framtid i bästa fall var fel.
“Det finns en rädsla bland regeringar att artificiell intelligens kommer att vara den främsta drivkraften för militär makt och nationell överlägsenhet i framtiden,” sade han och noterade att sådana farhågor kan sätta press på det snabba antagandet av AI-system – en bana som Lindsay beskrev som en del av en bredare historia. i boken, Informationsteknik och militärmakt – och den sociala dimensionen av ny teknik och en känsla av hållbarhet från det förflutna är ofta viktigare än nivån av sofistikering av en given teknik.
“Ditt organisatoriska sammanhang måste anpassas till det strategiska sammanhanget,” sa han. “Ofta ser vi att samma system utformade för att förbättra information och minska osäkerhet faktiskt blir nya källor till osäkerhet.”
I den sista artikeln Internationell säkerhetLindsay och SRI-fakultetens partnerskap Avi QoldfarbEn professor vid Rothman School of Management skriver att även om artificiell intelligens kan göra många saker som tidigare ansågs mänskliga, “är det inte ett enkelt substitut för mänskligt beslutsfattande.” Tvärtom hävdar författarna att även om framsteg inom maskininlärning har förbättrat statistiska prognoser, “är prognoser bara en aspekt av beslutsfattande.” Spridningen av artificiell intelligens-teknik gynnar därför kompletterande element som är viktiga för beslutsprocessen, inklusive vikten av kvalitetsinformation och behovet av sund bedömning – en färdighet som människor fortfarande har över maskiner.
“Om artificiell intelligens sänker prognosen för militära organisationer”, skriver Lindsay och Goldfarb, “så kommer information och omdöme att vara både mer värdefullt och mer kontroversiellt.”
Medurs från övre vänster: Peter Loewen, Avi Goldfarb, Janice Stein och Jon R. Lindsay,
När de analyserade användningen av informationsteknologi i den pågående krisen i Ukraina, noterade Lindsay och Stein skillnaden mellan deras nuvarande användning och deras skildring i populärkulturen. Även om avancerad teknologi spelar en viktig roll för båda sidor i konflikten, stämmer inte deras spridning och påverkan överens med de “myter, förutsägelser och fantasier” som beskrivs av autonoma robotar och cyberkrigstroper, observerade Lindsay. Även om Ukraina kanske inte har artificiell intelligens på slagfältet, har paneldeltagarna lyft fram flera alternativa sammanhang där de har bidragit på viktiga sätt, inklusive användningen av cyberrymden för att påverka allmänhetens uppfattning och användningen av distributionsnätverk för att försvara Ukraina.
Till exempel observerade Stein att användningen av små, billiga turkiska drönare, trots dess överlägsna kapacitet och investeringar, spelade en avgörande roll i Ukrainas försvar mot den “gamla, gamla strategin” av ryska stridsvagnar.
Lindsay tillade att även om ryska styrkor tidigare sågs av många som ett “kraftverk” för cyberkrigföring, var deras ockupation varken snabb eller avgörande, och är nu ett svårt kollapskrig.
Båda paneldeltagarna kommenterade också vikten av att avslöja underrättelser för allmänheten, förse tredje parts observatörer med uppdaterad information om aktiva styrkor och offer, och att förstärka det internationella samfundets fördömande av Rysslands taktik på grund av allmänhetens medvetenhet om grymheterna. engagerad.
Diskussionen väckte viktiga frågor om hur olika strategiska sammanhang förändrar informationens roll och betydelse, och var artificiell intelligens effektivt kan användas för nationellt försvar.
För Lindsey är föreställningen att artificiell intelligens kan tillämpas överallt en myt: AI-verktyg används mest effektivt inom administrativa områden som redan är tydligt strukturerade med organisatoriska överväganden. Däremot kräver osäkerhetsområden, såsom aktiva konflikter, en nivå av strategiskt omdöme som bara kan hittas hos personer med den nödvändiga erfarenheten för korrekt resonemang. Trots potentialen hos modern teknik, noterade Lindsay, “Våra bästa krigsteorier är till stor del baserade på osäkerhet.”
Lindsay noterade också att komplexiteten hos system för artificiell intelligens kan göra samordningsarbetet svårare och inte nödvändigtvis mer effektivt. Denna defekt kan till och med beväpnas av fiender. Genom att använda dataangrepp för att rikta in sig på integriteten hos data som används av artificiell intelligenssystem och för att förvirra och störa sensorer, kan datakvaliteten äventyras för att uppnå strategiska fördelar.
Trots dessa osäkerheter, sa Stein, har demokratier en “stor fördel” i tillämpningen av ny teknik eftersom de är byggda för att möjliggöra öppen diskussion som kan hjälpa till att ta itu med dessa frågor.
Som det blev klart vid sessionen kommer artificiell intelligens inte snart att ersätta människor. Tvärtom kommer mänskliga beslutsfattare – särskilt de med tillräcklig erfarenhet för att kunna tänka och bedöma mellan vida osäkerheter – vara ännu viktigare i en artificiell intelligensvärld.
