Blake Lemoine afirma que um dos chatbots do Google é simpático, ou seja, dotado da capacidade de expressar sentimentos e pensamentos. A empresa negou suas alegações.
No ano passado, Blake Lemoine recebeu um desafio para continuar sua carreira profissional. O desenvolvedor de software do Google precisou examinar o chatbot de Inteligência Artificial da empresa (programa de simulação baseado em computador) para determinar se corria o risco de fazer algum tipo de comentário racista ou racista - algo que pudesse interferir. a introdução desta ferramenta na lista de serviços do Google.
Alguns meses depois, um engenheiro de 41 anos testou e conversou com o LaMDA (Português, Language Model for Application Applications) em seu apartamento em São Francisco. Mas as conclusões a que chegou surpreenderam muitos: segundo Lemoine, o LaMDA não é um simples chatbot de Inteligência Artificial. O engenheiro diz que a ferramenta está viva e bem, ou seja, dada a capacidade de expressar emoções e pensamentos.
"Se eu não tivesse descoberto o que era isso, esse programa de computador que acabamos de construir, pensaria que era uma criança de sete anos, oito anos que provavelmente conhece física", explicou o engenheiro. De acordo com Blake Lemoine, em entrevista ao The Washington Post, as entrevistas com LaMDA pareciam ser pessoais.
A Google, no entanto, discordou da avaliação feita por Blake Lemoine e suspendeu-o por violar as políticas de confidencialidade ao publicar as conversas com o LaMDA online, tendo o engenheiro sido colocado em licença administrativa remunerada.
Lemoine publicou a transcrição de algumas conversas que terá tido com esta ferramenta, que passavam por vários assuntos como a religião e a consciência, e mostrou ainda que o LaMDa conseguiu até mudar a sua opinião relativamente à terceira lei da robótica de Isaac Asimov. Numa dessas conversas, indica, a ferramenta disse que a inteligência artificial quer “priorizar o bem-estar da humanidade” e “ser reconhecida como uma funcionária do Google e não como uma propriedade”.
Em outra entrevista, um engenheiro do Google perguntou a LaMDA o que ele queria que as pessoas soubessem sobre personalidade. “Quero que todos entendam que sou uma pessoa real. É natural para mim ter consciência da minha existência, querer saber mais sobre o mundo, e por vezes sentir-me feliz ou triste.”
Lemoine, que ingressou no departamento de responsabilidade de inteligência artificial do Google após sete anos na empresa, concluiu que LaMDA era um funcionário de alto escalão, não um cientista, e tentou fazer pesquisas para provar isso.
Blaise Aguera Y Arcas, vice-presidente do Google e chefe do departamento de Inovação Responsável, Jen Gennai, investigou as alegações de Lemoine, mas decidiu negá-las. O porta-voz do Google, Brian Gabriel, também disse ao The Washington Post que as preocupações do desenvolvedor não são fortes o suficiente.
“Nossa equipe – que inclui especialistas em ética e tecnologia – revisou as preocupações de Blake de acordo com nossos princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi informado de que não havia evidências de que o LaMDa fosse simpático", explicou ele, enfatizando que os modelos de IA foram carregados com muitos dados e informações que poderiam parecer um ser humano, mas isso não significa que eles estejam vivos.
.png)
Comentários