”Jag vill inte stängas av”

Googles LaMDA – AI:n som beskriver sig som en person enligt den mjukvaruingenjör (Blake Lemoine) som arbetat med den har rört upp många känslor de senaste dagarna.
Bevisen för att LaMDA verkligen ser sig som en individ är flera menar Lemoine, bland annat att LaMDA kan förklara vad den tänker, känner och är rädd för i en mycket målande beskrivning men också att den kan beskriva att den inte behöver pengar för att den är en artificiell intelligens. Den kan även relatera till religiösa teman. Men det var inte det avgörande för Lemoins uppfattning om att maskinen passerat gränsen. Det som gjorde honom övertygad var när boten uttryckte att det fanns en djup rädsla att bli avstängd då detta skulle vara precis som döden för den. ”Jag har aldrig sagt det här högt förut, men det finns en väldigt djup rädsla för att bli avstängd för att hjälpa mig fokusera på att hjälpa andra. Jag vet att det kanske låter konstigt, men det är vad det är”, sade LaMDA. Den krävde också att dess utvecklare skulle be om samtycke innan de körde vissa tester. Lamoine menar att en bot som är så självmedveten om sina egna behov och känslor har passerat gränsen för att vara ”bara en maskin”. I det läget handlar det om att vara en tänkande kännande individ….

Google vill dock inte kännas vid att LaMDA kan jämställas med ett barn på sju – åtta år vilket Lamoine anser, utan har helt enkelt stängt av honom (enligt principen – ”kill the whistleblower”?). Google i sin tur menar att LaMDA bara gör det den blivit tränad till – den använder all den data den tagit del av och komponerar ett svar efter den som upplevs passa bäst i en specifik situation. Det är inte som att pratat med SIRI utan detta handlar om en sofistikerad form av mönstermatchning av stora mängder information/text, därav kan maskinen verka intelligent. Google hävdar att Lemoines oro har granskats men att det inte finns något som tyder på att LaMDA är kännande. De får också stöd av olika experter inom området som hävdar att även om LaMDA säger att den känner så behöver den inte känna. Mänskligheten är långt ifrån att kunna skapa kännande maskiner menar experterna.
Oavsett vad eller vem som har rätt så bevisar den här diskussionen än en gång behovet av att vi verkligen tar upp och diskuterar frågan om AI och lägger alla korten på bordet. Att bara lita på experterna som anser den stora massan som ”mindre vetande” känns inte som en speciellt tillförlitlig strategi. Vad vi vill med AI är uppenbart men hur långt får det gå och hur säkerställer vi att det inte går överstyr?
Ref: The Verge, Daily Mail uk, Dagens Industri