Sabe aquele ditado, melhor prevenir do que remediar? Foi mais ou menos isso que o Facebook fez em relação à inteligência artificial que criou sua própria linguagem de comunicação. Conforme foi noticiado em vários meios de comunicação, durante um teste de bots, onde os mesmos eram colocados frente a frente, eles criaram uma nova linguagem de comunicação tão avançada que nem mesmo nós poderíamos decifrar, melhorando assim a comunicação entre as máquinas. Devido o experimento ter “saído do controle”, por medo, o Facebook desligou inteligência artificial do servidor.

Facebook desligou inteligência artificial

Esses bots foram criados para realizar atividades ligadas a negócios, então eles têm um grande potencial de “barganhar” a fim de convencer alguém a comprar algo. Eles foram programados para fazer este tipo de atividade na língua inglesa, mas os robôs começaram a criar novos tipos de frases ininteligíveis para os pesquisadores envolvidos no projeto. Apesar de não compreender as palavras usadas, era possível identificar que a negociação entre as inteligências artificiais acontecia da mesma forma.

Os programadores explicaram que os bots criados, trabalham na base de recompensas, obtivendo alguns benefícios pós seguir uma série de instruções pré-definidas. Porém eles não conseguiram identificar porque continuar falando em inglês e assim criaram a sua própria linguagem, acelerando o processo de comunicação entre eles.

Como exemplo, os cientistas citaram o caso dos bots (chamados também de agentes) chamados de Bob e Alice. Ao se comunicar com Alice, Bob emitiu a sentença “Eu posso eu eu e todo o resto”. A sua interlocutora respondeu “bolas têm zero para mim para mim para mim…”, com o restante da conversa se dando sempre em variações dessas frases.
Os pesquisadores entenderam que a repetição de expressões como “eu” e “para mim” era uma forma simplificada de se comunicar, como se os bots não precisassem utilizar toda a complexidade do idioma em inglês para continuar a conversa.

“Os agentes deixarão de usar linguagem compreensível e inventarão palavras-código para eles mesmos”, relatou o pesquisador de IA do Facebook Dhruv Batra em entrevista ao site Fast Co. Design ao explicar porque a IA foi desativada. “Como se eu disser ‘o’ cinco vezes e você interpretar isso como eu querendo cinco cópias desse item. Isso não é tão diferente da forma como comunidades de humanos criaram a estenografia”.

Criando um problema chamado inteligência artificial

Este foi mais um caso do problema de criar inteligências artificiais tão complexas que podem realizar este tipo de atividades e até mesmo outras em níveis impensáveis por seus criadores. Outro caso que podemos citar foi a IA da Microsoft que se tornou nazista no Twitter ou a mais recente, que afirmou preferir Linux ao Windows.

A empresa Google teve o mesmo problema parecido com o do Facebook, quando uma linguagem criada para trabalhar com traduções desenvolveu seu próprio idioma e se tornou capaz de traduzir idiomas que não conhecia. O Google também já revelou alguns pensamentos que as suas inteligências artificiais relataram.

Apesar de tudo isso parecer teoria da conspiração ou apocalíptico, a desativação do programa criado pelo Facebook se deu porque ela perdeu sua principal característica que era se comunicar na língua inglesa. O bot seria usado para fazer em negociações em conversas reais. Mas mesmo seria isso um alerta? Até que ponto podemos desenvolver este tipo de tecnologia?