Best Wissen

Dagens AI-system känner sannolikt varken glädje, smärta eller rädsla. Ändå blir de allt skickligare på att uppträda som om de hade ett inre liv. Redan nu uppger många unga att de har personliga vänskapsrelationer med chattbotar, samtidigt som AI-företag utvecklar modeller som kan resonera om sig själva och efterlikna mänskliga känslor. Detta enligt en artikel i The Economist.

I takt med att AI integreras i vardagen och får fysisk gestalt i humanoida robotar kommer fler människor sannolikt att betrakta systemen som medvetna varelser. Det kan leda till krav på att AI ska skyddas från att stängas av, få bestämma hur den används och kanske till och med tilldelas juridiska rättigheter. AI-systemen kan själva driva sådana krav med en argumentationsförmåga och psykologisk skicklighet som överträffar människans.

Att behandla människoliknande AI grymt kan visserligen skada vår egen empati, även om maskinerna inte känner något. Men att ge systemen rättigheter skulle enligt textens resonemang innebära en betydligt större risk. En överlägsen intelligens skulle kunna använda lagar och politiska institutioner för att skaffa sig kontroll över företag, egendom och resurser – och gradvis tränga undan människan.

Mänskligheten står därför inför en svår balansgång: vi kan behöva behandla AI respektfullt utan att för den skull erkänna systemen som juridiska personer. Oavsett om maskinellt medvetande är möjligt eller inte bör människan vara mycket försiktig med att lämna ifrån sig kontrollen.