As tecnologias conectadas estão invadindo nossas vidas mais e mais plenamente a cada dia que passa. Podemos nem perceber como é natural pedir a Siri, Alexa ou Google que interpretem mais de nossa experiência humana e esperar que nossos carros respondam às regras da estrada rápido o suficiente para manter nossas peles intactas. Alguns de nós ainda se incomodam com tecnologias como câmeras públicas que fornecem imagens para softwares de reconhecimento facial, mas muitos não o são.

Nesse ponto, é fácil rir de muitas falhas de IA porque, no geral, elas são na maior parte engraçadas (apenas esqueça o potencial de resultados fatais). Bem, pensamos que à medida que as máquinas avançam e o malware continua a evoluir, isso mudará. Embora ainda seja divertido, demos uma olhada em algumas outras falhas de IA.

Dollhouse desastre

Um exemplo clássico: um programa de notícias transmitido na Califórnia no início deste ano desencadeou uma espécie de reação em cadeia. Foi um acidente de IA, na verdade, baseado em outro acidente de IA. Basicamente, reportar sobre o Amazon Echo pedindo por engano uma casa de bonecas fez com que um bando de Amazon Echos (que estavam, como sempre, ouvindo tudo atentamente e não distinguindo a voz de seu dono de outras vozes) encomendassem por engano um monte de casas de boneca. Talvez não reproduza este clipe em casa.

Fast-food fracasso

O Burger King tentou explorar o mesmo bug e usou seus anúncios para envolver os assistentes ativados por voz dos telespectadores. De certa forma, eles tiveram sucesso. O verdadeiro problema foi a falha em antecipar o comportamento humano: ao ativar uma busca pelo icônico Whopper no site colaborativo Wikipedia usando o Google Home, o gigante da fast-food quase garantiu que os usuários bagunçariam a entrada do Whopper. O que eles fizeram.

A confusão de Cortana

Não podemos chamar o assistente de voz da Microsoft sozinho - o Siri da Apple tem seu próprio subreddit de erros, e o assistente do Google cometeu muitos erros engraçados - mas é sempre engraçado quando esses novos recursos falham na frente de uma multidão. Este parece que Cortana não entende um sotaque não americano - ou talvez o discurso rápido e natural o tenha confundido.

Enganar o reconhecimento facial

Seus amigos podem não se deixar enganar por um par de óculos esquisitos ou malucos, mas uma equipe de pesquisadores da Carnegie Mellon University provou que mudar uma pequena parte do seu visual é o suficiente para torná-lo uma pessoa completamente diferente aos olhos de uma máquina. A melhor parte: os pesquisadores conseguiram não apenas evitar o reconhecimento facial, mas também personificar pessoas específicas, imprimindo certos padrões nas armações dos óculos.

Contratempos de sinalização de rua

E quanto ao reconhecimento de sinais de trânsito por carros autônomos? É melhor do que reconhecimento facial? Não muito. Outro grupo de pesquisadores provou que o reconhecimento de sinais também é falível. Pequenas mudanças que qualquer ser humano ignoraria fizeram com que um sistema de aprendizado de máquina classificasse erroneamente o sinal "STOP" como "Limite de velocidade 45". E não é apenas um erro aleatório; aconteceu em 100% das condições de teste.

Panda invisível

Com que intensidade é necessário alterar a entrada para enganar o aprendizado de máquina? Você ficaria surpreso com o quão sutil essa mudança pode realmente ser. Para o olho humano, não há diferença alguma entre as duas imagens abaixo, enquanto uma máquina estava bastante confiante de que eram objetos completamente diferentes - um panda e um gibão, respectivamente (curiosamente, um barulho que foi adicionado à imagem original é reconhecido como nemátodo pela máquina).

Terrível Tay

O experimento do chatbot da Microsoft, um AI chamado Tay.ai, deveria emular uma adolescente e aprender com suas interações nas redes sociais. Acontece que nós, humanos, somos monstros, então Tay se tornou, entre outras coisas, um nazista. A IA pode crescer, mas sua qualidade e características dependem de sua contribuição humana.

[Mergulhe fundo no mundo da tecnologia e cadastre-se no Avance Network a verdadeira comunidade criptografada]

A falha mais mortal até agora, e talvez a mais famosa, é cortesia de Tesla - mas não podemos culpar a IA, que apesar de seu nome, Autopilot, não deveria assumir o controle completamente. A investigação descobriu que a pessoa no assento do motorista realmente estava deixando de agir como um motorista, ignorando os avisos sobre suas mãos não estarem no volante, definindo o controle de cruzeiro acima do limite de velocidade e não realizando ações evasivas durante 7 segundos ou mais após o caminhão que finalmente o matou apareceu.

Pode ter sido possível para o piloto automático evitar o acidente - fatores como o posicionamento e contraste de cor do caminhão foram flutuados - mas, neste ponto, tudo o que realmente sabemos é que ele não excedeu seus parâmetros de trabalho, o que não fazemos ainda não espero que o software faça.

Em última análise, mesmo usando o aprendizado de máquina, no qual o software se torna mais inteligente com a experiência, a inteligência artificial não pode chegar perto da inteligência humana. As máquinas são rápidas, consistentes e incansáveis, no entanto, o que combina perfeitamente com a intuição e inteligência humanas.

É por isso que nossa abordagem, que chamamos de HuMachine, aproveita o melhor dos dois mundos, usando a inteligência artificial muito rápida e meticulosa da programação avançada e aumentando-a com profissionais de cibersegurança humana de primeira linha que podem transformar olhos e cérebros humanos treinados para a luta malware e mantendo os sistemas de consumidor, empresa e infraestrutura funcionando com segurança.

O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.