Engenheiro da Google que afirmou que uma IA do Google tinha consciência foi despedido

A empresa afirmou que ele violou políticas de confidencialidade. 

Blake Lemoine, o engenheiro do Google que afirmou publicamente que a inteligência artificial conversacional LaMDA da empresa é consciente, foi demitido, de acordo com o boletim da Big Technology, que falou com Lemoine. 

Em junho, a Google colocou Lemoine em licença administrativa remunerada por violar o acordo de confidencialidade depois que ele entrou em contato com membros do governo sobre as suas preocupações e contratou um advogado para representar o LaMDA. 

A Goole afirma "O LaMDA passou por 11 avaliações distintas, e publicamos um artigo de pesquisa no início deste ano detalhando o trabalho que vai para o seu desenvolvimento responsável." 

Lemoine afirma que as suas conversas com o chatbot da LaMDA o levam a acreditar que ele tornou-se mais do que apenas um programa e tem os seus próprios pensamentos e sentimentos, em vez de apenas produzir conversas realistas o suficiente para fazer parecer assim, como ele foi projetado para fazer. 

Ele argumenta que os pesquisadores da Google devem buscar o consentimento do LaMDA antes de executar experiências sobre ele (o próprio Lemoine foi designado para testar se a IA produziu discurso de ódio) e publicou partes dessas conversas na sua conta Medium como evidência. 

Aqui está a declaração do Google na íntegra, que também aborda a acusação de Lemoine de que a empresa não investigou adequadamente as suas alegações: 

À medida que partilhamos os nossos Princípios de IA, levamos muito a sério o desenvolvimento da IA e continuamos comprometidos com a inovação responsável. A LaMDA passou por 11 avaliações distintas, e publicamos um artigo de pesquisa no início deste ano detalhando o trabalho que vai para o seu desenvolvimento responsável. Se um funcionário partilha preocupações sobre nosso trabalho, como Blake fez, nós os revemos extensivamente. Achamos as alegações de Blake de que LaMDA é consciente de ser totalmente infundada e trabalhou para esclarecer isso com ele por muitos meses. Essas discussões fizeram parte da cultura aberta que nos ajuda a inovar de forma responsável. Portanto, é lamentável que, apesar do longo engajamento sobre este tema, Blake ainda optou por violar persistentemente políticas claras de emprego e segurança de dados que incluem a necessidade de salvaguardar as informações dos produtos. Continuaremos nosso cuidadoso desenvolvimento de modelos linguísticos, e desejamos boa sorte a Blake.