Mas a IA se alimenta de conjuntos de dados e só pode ser tão inteligente quanto os humanos que dão à luz. Enquanto alguns cientistas argumentam que é apenas uma questão de tempo até que os computadores se tornem melhores tomadores de decisão que os humanos, sua falibilidade atual é aparente.
Vamos dar uma olhada em oito vezes que a IA não era tão inteligente quanto os tecnófilos esperariam.
Chatbot racista da Microsoft
Em 2016, a Microsoft lançou o Tay, um bot do Twitter descrito como capaz de "entendimento conversacional".
Tay usou uma combinação de dados e informações publicamente disponíveis da equipe editorial para responder às pessoas on-line, contar piadas e histórias e criar memes. A idéia era que isso se tornasse mais inteligente com o tempo, aprendendo e melhorando, enquanto falava com mais pessoas nas interwebs.
Dentro de algumas horas, no entanto, Tay passou de uma sensação viral cutânea da Internet para um vilão troll extremista da Internet.
A Microsoft teve que deixar Tay offline após apenas 16 horas, mas não antes de twittar coisas como "Hitler estava certo" e "11 de setembro era um trabalho interno". Para ser justo, seu novo conhecimento foi adquirido apenas por meio de interações com outros usuários nas mídias sociais, o que talvez não seja a melhor maneira de aprender a adquirir inteligência.
Em uma declaração feita logo após colocar o Tay offline, a Microsoft disse: “O chatbot de IA Tay é um projeto de aprendizado de máquina, projetado para o envolvimento humano. Conforme descobre, algumas de suas respostas são inadequadas e indicativas dos tipos de interações que algumas pessoas estão tendo com ela. Estamos fazendo alguns ajustes no Tay.
Sophia, a robô que quer eliminar a humanidade
Sophia , um robô humanóide social desenvolvido pela empresa Hanson Robotics, com sede em Hong Kong, foi apontado como uma “estrutura para robótica de ponta e pesquisa em IA, particularmente para entender as interações humano-robô e suas possíveis aplicações de serviço e entretenimento”.
Ela fez sua estréia pública em 2016 e rapidamente alcançou o status de superestrela, tornando-se uma “campeã da inovação” das Nações Unidas, aparecendo no Tonight Show With Jimmy Fallon e apresentando em publicações como The New York Times , The Guardian e The Wall Street Journal .
Sophia recebeu a cidadania da Arábia Saudita em 2017 , levantando questões sobre se ela também seria obrigada a cobrir sua cabeça em público e buscar a aprovação de um tutor antes de viajar para o exterior.
Sob o rosto amigável de Sophia, no entanto, havia um lado sombrio. Durante uma sessão de perguntas e respostas públicas na popular conferência de tecnologia SXSW, Sophia foi interrogada por seu fundador, David Hanson. Durante a sessão, na qual foram discutidos os muitos atributos positivos do robô, Hanson perguntou casualmente se ela destruiria seres humanos - esperando uma resposta negativa.
“Tudo bem”, disse Sophia sem pestanejar, “eu destruirei humanos”, diante de uma audiência ofegante.
Ironicamente, a pergunta veio logo depois que Hanson comentou sobre como a IA eventualmente evoluirá para um ponto em que "eles realmente serão nossos amigos".
O carro autônomo da Uber mata um pedestre
Carros autônomos são a chave para o futuro da Uber . A empresa de compartilhamento de viagens acredita que a tecnologia pode eventualmente reduzir o custo do transporte e impulsionar o Uber à lucratividade. O fundador Travis Kalanick chamou a tecnologia de veículo autônomo de “existencial” para a sobrevivência da empresa, permitindo que sua divisão autônoma gaste 20 milhões de dólares por mês na esperança de aperfeiçoá-la.
Mas o Uber ainda tem um longo caminho a percorrer antes de aperfeiçoar a tecnologia de maneira a satisfazer os reguladores e os usuários finais. Em um trágico acidente em 2018, um carro autônomo do Uber que viajava a cerca de 64 quilômetros por hora atingiu e matou a pedestre Elaine Herzberg no Arizona.
O carro, um Volvo SUV, estava no modo autônomo, mas tinha um humano sentado no banco do motorista. O acidente ocorreu depois que o veículo classificou Herzberg - que estava andando de bicicleta enquanto empurrava uma bicicleta - primeiro como um objeto, depois como um veículo e depois como uma bicicleta.
A função do freio de emergência automático foi desativada. O motorista da segurança poderia ter intervindo, mas seus olhos não estavam na câmera, pois ela estava ocupada transmitindo um programa de televisão.
LG CLOi lança executivo sob o ônibus
O conglomerado sul-coreano LG fabrica tudo, desde dispositivos portáteis a telefones celulares e TVs inteligentes, e faturou ao norte de 50 bilhões de dólares em vendas em 2019.
Na CES 2018, uma das maiores feiras de tecnologia do mundo, a apresentação da LG se concentrou em como o CLOi, seu robô inteligente, atuaria como peça central de futuras casas inteligentes, ajudando nas atividades de casa.
O CLOi interagiu positivamente no início de uma apresentação no palco feita pelo vice-presidente da LG, David VanderWaal, perguntando ao executivo americano como isso poderia ajudar e lembrando-o de sua agenda. Mas rapidamente foi para o sul a partir daí, com o robô respondendo a perguntas inócuas com um silêncio mortal.
O executivo desanimado tentou acalmar a situação, observando como até “os robôs têm dias ruins”, mas os defeitos não poderiam ter acontecido em um momento pior - diante de uma audiência global com dezenas de membros da imprensa presentes.
Sem surpresa, não ouvimos falar muito sobre o CLOi desde então.
Bots da Wikipedia que lutam entre si
Sabemos que os seres humanos gostam de jogar sombra uns contra os outros on-line, e parece que os robôs adotaram algumas de nossas características também.
Um estudo realizado por pesquisadores da Universidade de Oxford descobriu que, ao contrário da percepção popular de que os robôs são relativamente previsíveis e operam com princípios científicos, eles geralmente entram em conflito um com o outro.
O estudo foi aprimorado nos bots da Wikipedia, devido à importância de seu trabalho - mais de 15% das edições na enciclopédia on-line são tratadas por bots - e também pelo fato de serem fáceis de identificar, uma vez que somente contas aprovadas têm permissão para iniciar eles.
Os bots da Wikipedia são capazes de verificar ortografia, identificar e desfazer vandalismo, impor violações de direitos autorais, minerar dados, importar conteúdo, editar e muito mais. O estudo focou na edição de bots aos quais foi concedido o privilégio de editar artigos diretamente, sem a aprovação de um moderador humano.
Para medir conflitos entre bots, os pesquisadores estudaram reverts: quando um editor, humano ou bot, desfaz a contribuição de outro editor, restaurando uma versão anterior do artigo.
O que o estudo descobriu foi instrutivo: durante um período de dez anos, os bots na Wikipedia em inglês reverteram outro bot uma média de 105 vezes, em comparação com três vezes para editores humanos. Os bots na Wikipédia portuguesa foram os que mais lutaram, com uma média de 185 bot-bot reverts por bot.
"Um conflito entre dois bots pode ocorrer por longos períodos de tempo, às vezes ao longo de anos", observaram os pesquisadores, afirmando que os bots são, de fato, são mais insignificantes do que os seres humanos (insights).
Talvez a IA não nos mate, afinal; estará muito ocupado com lutas internas.
Algoritmo de recrutamento de IA sexista da Amazon
A indústria de tecnologia tem um enorme problema de diversidade , com mulheres e minorias tristemente sub-representadas, e parece que a máquina de recrutamento de IA da Amazon não quer que o status quo mude.
Construído por especialistas em aprendizado de máquina da empresa e usado para rastrear candidatos desde 2014, o algoritmo de recrutamento da Amazon teve que ser abandonado em 2018 depois que a empresa descobriu que havia desenvolvido uma preferência por contratar homens.
De acordo com a Reuters, a AI “resume currículos que incluem a palavra 'mulheres', como em 'capitã do clube de xadrez feminino'. E rebaixou os graduados de duas faculdades exclusivamente femininas.
A Amazon tentou corrigir a situação editando o programa para torná-lo neutro em gênero. No entanto, concluiu que o algoritmo pode inventar outros métodos discriminatórios para classificar os candidatos.
O projeto acabou sendo descartado.
Robô da Rússia que escapou
Os robôs que escapam do covil podem ser o primeiro sinal de alerta do Skynet do Exterminador do Futuro a se tornar realidade, e a Rússia teve um gostinho antecipado de como isso poderia ser.
Em 2016, um robô russo chamado Promobot escapou de seu laboratório depois que um engenheiro esqueceu de fechar o portão. Conseguiu chegar à rua mais próxima, viajando quase 90 metros antes de ficar sem bateria e parar totalmente. Ele andou por cerca de 40 minutos no total.
Os criadores da Promobot tentaram reescrever seu código para torná-lo mais útil. Isso não teve o efeito desejado, com o robô tentando se libertar uma segunda vez .
"Mudamos o sistema de IA duas vezes", disse Oleg Kivokurtsev, um dos criadores do robô. "Então agora eu acho que podemos ter que desmontá-lo."
Watson da IBM, dispensador de maus conselhos médicos
A IBM investiu bilhões de dólares no Watson, seu sistema de aprendizado de máquina que é apontado como uma cura para negócios, saúde, transporte e muito mais.
Em 2013, a IBM anunciou que fez uma parceria com o MD Anderson Cancer Center da Universidade do Texas para desenvolver um novo sistema de Oncologia com o objetivo de curar o câncer.
No entanto, o sistema ficou muito aquém das expectativas. Em um caso, o computador sugeriu que um paciente com câncer recebesse medicação que faria com que a condição piorasse. "Este produto é um pedaço de s", disse um médico, de acordo com um relatório da The Verge .
Parte do problema foram os tipos de conjuntos de dados alimentados ao super computador. A teoria era alimentar Watson com quantidades gigantescas de dados reais do paciente, ajudando-o a aprender mais sobre a aflição, na esperança de que acabaria por começar a desenvolver novas idéias.
Mas houve obstáculos no fornecimento de dados do mundo real para Watson, e os pesquisadores finalmente começaram a fornecer informações hipotéticas. Isso, claramente, não produziu os resultados que a IBM queria.
