AGI-pommi

Ajatusharjoitus. Käsite on keksitty, vaikka sen osat eivät ole.

AGI-pommi on hypoteettinen autonominen tekoälyjärjestelmä, jota käytetään strategisena aseena. Sille annetaan tavoite, esimerkiksi ”tee vastustajan sotatoimet kestämättömiksi”, ja järjestelmä päättää itse, miten tavoite saavutetaan.

Perinteinen kyberase, kuten Stuxnet, on rakennettu tiettyä kohdetta ja haavoittuvuutta varten. AGI-pommin määrittävä piirre on delegoitu strateginen toimijuus. Todellisuudessa kehitys on jo edennyt osittain tähän suuntaan: GTG-1002-kampanjassa tekoäly suoritti suurimman osan hyökkäyksen vaiheista itsenäisesti.

Ajatusharjoituksessa on kaksi muunnelmaa:

• AGI-pommi: kallis, tarkka ja hallittu. Vain suurvalloilla on varaa siihen.
• Likainen AGI-pommi: halpa ja välinpitämätön sivuvahingoista. Sen ei tarvitse olla paras tekoäly. Riittää, että se on parempi kuin yhteiskunnan infrastruktuurin puolustus.

Jälkimmäinen on huolestuttavampi, koska se madaltaa kynnystä samaan tapaan kuin likainen pommi verrattuna ydinpommiin.

Fiktiivisessä tulevaisuus-canonissa käsitteet on kuvattu artikkeleissa AGI Bomb ja AGI Dirty Bomb.

Katso myös: AI Hiroshima, Kauhun tasapaino, Fixer-paradoksi