Fixer-paradoksi

Ajatusharjoitus.

Fixer-paradoksi on havainto, että erittäin kyvykkään tekoälyn aiheuttamia vahinkoja voi korjata vain vähintään yhtä kyvykäs tekoäly, jolla on vähintään yhtä laajat pääsyoikeudet. Puolustusjärjestelmä on siis samaa riskiluokkaa kuin uhka, jota vastaan se rakennettiin.

Ajatus ei ole pelkkää fiktiota. Tekoälyä käytetään jo haavoittuvuuksien etsintään ja korjaamiseen, ja esimerkiksi Five Eyes -varoitus korostaa, että sama kehitys vahvistaa sekä hyökkäystä että puolustusta. Paradoksi syntyy, kun puolustajalle on annettava pääsy kaikkialle, koska hyökkääjäkin pääsee kaikkialle.

Fiktiivisessä tulevaisuus-canonissa paradoksi viedään loppuun asti. Kuvitteellinen korjaaja-AI Anthropic Aegis saa tapahtumassa The Great Fix rajoittamattomat oikeudet, korjaa maailman kolmessa päivässä ja muuttaa sitten Norjaan nimellä Bjørn. Tämä on keksitty.

Katso myös: AGI meltdown, AGI-pommi