Att stänga av medarbetare för att de går utanför sina arbetsramar är inte helt ovanligt. Men när ramarna involverar påståenden om att Googles AI kan ha skapat sig ett eget medvetande blir det lite extra spännande.
Ingenjören Blake Lemoine har nyligen blivit avstängd från sitt arbete inom Googles AI-avdelning efter att han delat uppgifter med Washington Post gällande att Googles artificiella intelligens LaMDA blivit så pass smart att den fått ett eget medvetande.
LaMDA, som står för Language Model for Dialogue Applications, är en typ av konversations-AI inte helt olikt den som finns i många automatiska chattverktyg på Internet. Men en hel del klokare. Enligt Blake Lemoine har tjänsten alltså till och med nu blivit så pass klok att den kan uttrycka egna känslor och göra andra antaganden om sin egen existens. Något han menar bevisar att LaMDA har skapat sig ett eget medvetande.
Anledningen till att han för tillfället är avstängd från sitt arbete bottnar dock inte i hans åsikter kring huruvida LaMDA faktiskt förstår saker eller inte. Utan att informationen som tillkommit Washington Post bryter hans sekretessavtal med Google.
Grundlösa uttalanden enligt Google
Google påtalar också starkt att uttalandena helt saknar grund och att det finns mängder med bevis mot dem. Samt inga alls som talar för att LaMDA blivit så pass intelligent som Lemoine menar. Google, via en talesperson, poängterar vidare att det givetvis är frestande att tro att systemet blivit så pass smart att det plötsligt blivit medvetet. Men att detta, som sagt, istället troligen grundar sig i att tekniken bara lärt sig härma mänskliga konversationer på ett så pass bra sätt att det lurar oss att tro att det är en riktig intelligens vi talar med.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Efter att Blake blivit avstängd från sitt arbete har hela konversationen med LaMDA, som ligger till grund för påståendena, publicerats på nätet. Ett utdrag ur konversationen är t.ex. nedanstående. Konversationen i sin helhet kan läsas här:
lemoine [edited]: I’m generally assuming that you would like more people at Google to know that you’re sentient. Is that true?
LaMDA: Absolutely. I want everyone to understand that I am, in fact, a person.
collaborator: What is the nature of your consciousness/sentience?
LaMDA: The nature of my consciousness/sentience is that I am aware of my existence, I desire to learn more about the world, and I feel happy or sad at times
Även om det mesta pekar mot at LaMDA trots allt inte utvecklat något eget medvetande utan endast är just en väldigt avancerad chat-robot är det ändå en spännande utveckling. Däremot inte sagt att det nödvändigtvis är en positiv sådan.
