Carver Mead não tem pressa. Como um pioneiro em microeletrônica, ajudando a desenvolver e projetar semicondutores, chips digitais e compiladores de silício, Mead passou sua vida tentando fazer a computação avançar.

“Trabalhamos muito para projetar um chip VLSI que faria o melhor uso computacional do silício”, disse Mead.

Uma arquitetura totalmente nova

Mead foi o primeiro a prever a possibilidade de armazenar milhões de transistores em um chip. Junto com Lynn Conway, ele possibilitou a revolução Mead Conway no design de integração de muito grande escala (VLSI), dando início a uma mudança profunda no desenvolvimento de circuitos integrados em 1979.

Mesmo assim, ele percebeu que “a arquitetura fundamental está subutilizando enormemente o potencial do silício por talvez um fator de mil. Isso me fez pensar que os cérebros são baseados em princípios completamente diferentes dos que conhecíamos. ”

Outros já haviam começado a buscar no cérebro novas idéias. Em 1943, o neurofisiologista Warren McCulloch e o matemático Walter Pitts escreveram um artigo sobre como os neurônios do cérebro poderiam funcionar, modelando a primeira rede neural usando circuitos elétricos.

“O campo como um todo aprendeu uma coisa com o cérebro”, disse Mead. “E isso é que o neurônio médio tem vários milhares de entradas.”

Essa percepção, desenvolvida lentamente com redes neurais cada vez mais avançadas, levou ao que hoje conhecemos como aprendizado profundo. “Esse é um grande negócio hoje”, disse Mead. “E as pessoas falam sobre isso agora como se tivéssemos aprendido o que o cérebro faz. Essa é a coisa mais distante da verdade. Aprendemos apenas a primeira, a coisa mais óbvia que o cérebro faz. ”

Trabalhando com John Hopfield e Richard Feynman na década de 1960, Mead percebeu que havia mais que poderíamos fazer com nosso conhecimento do cérebro, usando-o para desbloquear o verdadeiro potencial do silício.

“Carver Mead é uma figura fundamental, ele olhou para o processo de disparo biofísico dos neurônios e sinapses e - sendo um cientista incrivelmente brilhante - viu que era análogo à física dentro dos transistores”, Dr. Dharmendra S. Modha, IBM Fellow e o cientista-chefe da computação inspirada no cérebro, disse. “Ele usou a física dos transistores e, portanto, a computação analógica para modelar esses processos.”

Mead chamou sua criação de computação neuromórfica, imaginando um tipo de hardware completamente novo que é diferente da arquitetura de von Neumann que executa a grande maioria dos hardwares de computação até hoje.

O campo tem crescido desde então, trazendo entusiastas de governos, empresas e universidades, todos em busca do próximo salto evolutivo na ciência computacional. Suas abordagens à computação neuromórfica diferem; alguns ficam muito próximos da visão original de Mead, delineada no livro inovador de 1989, Analog VLSI and Neural Systems , enquanto outros mapearam novos territórios. Cada grupo acredita que seu trabalho pode levar a novas formas de sistemas de aprendizagem, processadores radicalmente mais eficientes em termos de energia e níveis sem precedentes de tolerância a falhas.

Tomada de SpiNNaker

Para entender uma dessas abordagens, devemos ir para Manchester, Inglaterra, onde um pequeno grupo de pesquisadores liderados pelo professor Steve Furber espera tornar os algoritmos de aprendizado de máquina "ainda mais parecidos com o cérebro".

“Eu tenho projetado processadores por 20 anos e eles ficaram mil vezes mais rápidos”, disse o arquiteto original do Arm CPU . “Mas ainda havia coisas que eles não podiam fazer e que mesmo bebês humanos administravam com bastante facilidade, como visão por computador e interpretação da fala.”

Furber queria entender o que havia de “fundamentalmente diferente na maneira como os computadores convencionais processam as informações e na maneira como os cérebros processam as informações. Isso me levou a pensar em usar computadores para tentar entender melhor os cérebros, na esperança de que possamos transferir parte desse conhecimento de volta para os computadores e construir máquinas melhores. ”

O modo predominante de comunicação entre os neurônios no cérebro é por meio de picos, “que são como impulsos de unidades puras, onde todas as informações são transmitidas simplesmente no tempo dos picos e no tempo relativo de diferentes picos de diferentes neurônios”, explicou Furber.

Em um esforço para imitar isso, os desenvolvedores criaram redes neurais de picos, que usam a frequência dos picos, ou o tempo entre os picos, para codificar informações. Furber queria explorar isso e construiu o sistema SpiNNaker (Spiking Neural Network Architecture).

SpiNNaker é baseado na observação de que modelar um grande número de neurônios é um "problema constrangedoramente paralelo", então Furber e sua equipe usaram um grande número de núcleos para uma máquina - atingindo um milhão de núcleos em outubro de 2018 .

O sistema ainda depende da arquitetura de von Neumann: fiel às suas raízes, Furber usa 18 nós de processador ARM968 em um System-on-Chip que foi projetado por sua equipe. Para replicar a conectividade do cérebro, o projeto mapeia cada pico em um pacote, em uma malha de comutação de pacotes. "Mas é um pacote muito pequeno e o tecido é intrinsecamente multicast, então quando um neurônio modelado no processador atinge um pico, ele se torna um pacote e é entregue a até 10.000 destinos diferentes."

Os nós se comunicam usando mensagens simples que são inerentemente não confiáveis, uma "ruptura com o determinismo que oferece novos desafios, mas também o potencial para descobrir novos princípios poderosos de computação maciçamente paralela".

Furber acrescentou: “A conectividade é enorme, então os mecanismos convencionais de comunicação por computador não funcionam bem. Se você adotar um arranjo de data center padrão com rede, é praticamente impossível fazer modelagem do cérebro em tempo real nesse tipo de sistema, pois os pacotes são projetados para transportar grandes quantidades de dados. A ideia principal do SpiNNaker é a maneira como carregamos um grande número de pequenos pacotes com a ordem de um ou dois bits de informação. ”

O maior sistema do projeto, apropriadamente chamado de The Big Machine, funciona em uma oficina de metal desativada no Edifício Kilburn da Universidade de Manchester. “Eles retiraram o lixo que havia se acumulado lá e o converteram em uma sala específica para nós com 12 gabinetes de rack SpiNNaker que no total requerem até 50 quilowatts de energia”, disse Furber.

Mas o sistema já se espalhou: “Tenho um pequeno mapa do mundo onde estão os sistemas SpiNNaker e cobrimos a maioria dos continentes, acho que além da América do Sul.” No segundo trimestre de 2020, Furber espera gravar o SpiNNaker 2, que “passará de 18 para 160 núcleos no chip - Arm Cortex-M4Fs - e apenas usando uma tecnologia de processo mais atualizada e o que nós” aprendemos com a primeira máquina, é bastante fácil ver como conseguimos 10 vezes mais melhorias no desempenho e na eficiência energética. ”

O projeto está em desenvolvimento há mais de uma década, originalmente com financiamento do Conselho de Pesquisa do Reino Unido, mas conforme a máquina estava sendo criada, "este grande projeto da União Europeia chamado Projeto do Cérebro Humano surgiu e estávamos idealmente posicionados para nos envolver", Furber disse.

O Projeto do Cérebro Humano

Um dos dois maiores projetos científicos já financiados pela União Europeia, a iniciativa de uma década de € 1 bilhão (US $ 1,15 bilhão) visa desenvolver a infraestrutura de pesquisa científica baseada em TIC para o avanço da neurociência, computação e medicina relacionada ao cérebro.

Iniciado em 2013, o HBP reuniu cientistas de mais de 100 universidades, ajudando a expandir nossa compreensão do cérebro e gerando iniciativas semelhantes em todo o mundo, incluindo o BRAIN nos EUA e o China Brain Project.

“Acho que o que é único no Projeto Cérebro Humano é que temos esse ciclo de feedback - trabalhamos muito, muito de perto com os neurocientistas”, disse o professor Karlheinz Meier, um dos fundadores originais do HBP.

“São neurocientistas trabalhando nos wetlabs, fazendo neurociência teórica, desenvolvendo princípios para a computação cerebral - trabalhamos com eles todos os dias, e isso é realmente algo que torna o HBP muito especial.”

Meier é chefe do subprojeto Neuromorphic Computing Platform do HBP, que consiste em dois programas - SpiNNaker e BrainScaleS, a própria abordagem de Meier sobre computação neuromórfica.

“No nosso caso, realmente temos computação analógica local, mas não é, como um todo, um computador analógico. A comunicação entre neurônios está ocorrendo com os potenciais de ação estereotipados em tempo contínuo, como em nosso cérebro. Computacionalmente, é uma cópia bastante precisa da arquitetura do cérebro. ”

É diferente da ideia original de Mead em alguns aspectos, mas é um dos exemplos mais próximos do conceito atualmente disponível. “Essa linhagem chegou até Meier”, disse Modha, da IBM.

O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.