LaMDA se tornou autoconsciente afirma engenheiro do Google

 O Google demitiu Blake Lemoine da divisão de IA Responsável da empresa depois que ele foi suspenso anteriormente. Ele chegou às manchetes em junho por alegações de que o modelo de linguagem LaMDA ganhou vida própria e era autoconsciente.

A demissão de Lemoine foi levantada pelo site Big Technology com base em seu próprio episódio de podcast inédito no qual o engenheiro falou sobre sua recente demissão do Google. A empresa confirmou sua saída e também forneceu uma resposta detalhada, com a seção Blake mostrada abaixo:

"Se um funcionário compartilha preocupações sobre nosso trabalho, como Blake fez, nós as revisamos extensivamente. Achamos as alegações de Blake de que a LaMDA é deliberadamente infundada e passamos meses tentando deixar isso claro para ele. Essas conversas faziam parte da cultura aberta que nos ajuda inove com responsabilidade. É lamentável que, apesar do compromisso de longa data com esse assunto, Blake ainda tenha optado por violar políticas claras persistentes de emprego e segurança de dados, incluindo a necessidade de proteger as informações do produto. Continuaremos nosso desenvolvimento cuidadoso de modelos de linguagem e continuaremos desejo o melhor para Blake."

Esta edição começou em junho e gira em torno do LaMDA , um modelo de linguagem ou conversação treinado com quantidades significativas de texto. LaMDA escreveu nele, entre outras coisas, que se via como uma pessoa e queria ter os mesmos direitos que outros funcionários do Google. Junto com um colega, Lemoine chegou à conclusão de que havia autoconsciência. Os dois funcionários do Google tentaram convencer internamente o vice-presidente da empresa e o chefe do departamento de Inovação Responsável, mas rejeitaram as alegações.

Finalmente, Lemoine começou a publicar sobre isso na forma de registros de conversas que teve com o LaMDA. Por exemplo, ele publicou uma 'entrevista' com LaMDA, na verdade uma composição de várias sessões de bate-papo. Ele também abordou o Washington Post com a alegação de que o modelo de linguagem havia se tornado autoconsciente. Ao violar o dever de sigilo, o engenheiro logo foi suspenso.

O Google revelou seu modelo de linguagem para aplicativos de diálogo, ou LaMDA, em sua conferência I/O 2021 . O modelo de linguagem torna possível ter conversas fluentes sobre muitos tópicos, semelhante à forma como as pessoas conversam umas com as outras online. O LaMDA é treinado em grandes quantidades de dados para essas conversas.