O Futuro da IA: Revelações e Preocupações
O mundo da inteligência artificial (IA) está em constante evolução, com novas descobertas e desenvolvimentos sendo feitos todos os dias. Desde a criação do primeiro avatar de IA quase realista até a questão do que faz os modelos felizes, esta semana tem sido repleta de revelações subestimadas. Um dos eventos mais significativos foi uma rara entrevista com Dario Amaday, CEO da Anthropics e um dos cérebros por trás do Chachi BT, que trouxe à luz o que está acontecendo nos bastidores do AGI Labs.
O Avatar de IA Mais Próximo de Ser Realista
Antes de mergulharmos na entrevista, vale mencionar o avatar de IA que chegou mais perto de ser realista. O avatar, que até mesmo usava uma mariposa na lapela, está agora em exibição no Museu Nacional de História Americana do Smithsonian. Esse incidente simboliza a origem do termo "bug", comumente usado em ciência da computação para descrever uma falha ou erro em um programa. A criatividade e as habilidades de resolução de problemas de Harper a tornaram uma das figuras pioneiras na ciência da computação inicial.
O Desafio Cibernético de IA
Nesta semana, foi anunciada uma importante competição de dois anos que utilizará IA para proteger o software dos EUA. A Casa Branca chama isso de Desafio Cibernético de IA e envolve empresas como Anthropics, Google, Microsoft e OpenAI em parceria com a DARPA para tornar o software mais seguro. No entanto, o interessante é que as empresas de IA disponibilizarão sua tecnologia de ponta, alguns dos sistemas de IA mais poderosos do mundo, para que os concorrentes possam usá-la no desenvolvimento de novas soluções de segurança cibernética. Considerando os prazos envolvidos, isso poderia significar o uso de versões não lançadas do Gemini e GT5 do Google para projetar soluções de segurança cibernética.
Armas de IA e Aplicações Militares
O CEO da Palantir, Alex Karp, escreveu recentemente um artigo no The New York Times intitulado "Nosso Momento Oppenheimer: A Criação de Armas de IA". No artigo, ele comparou o aumento no número de parâmetros dos sistemas de aprendizado de máquina com o aumento no poder dos dispositivos nucleares. Ele disse: "No entanto, não devemos evitar a construção de ferramentas afiadas por medo de que elas possam ser usadas contra nós. Devemos garantir que a máquina permaneça subordinada ao seu criador, e nossos adversários não vão parar para se envolver em debates teatrais sobre os méritos do desenvolvimento de tecnologias com aplicações militares e de segurança nacional críticas. Eles vão avançar, e esta é uma corrida armamentista de um tipo diferente, e ela já começou." A Palantir já está usando IA para auxiliar na seleção de alvos, planejamento de missões e reconhecimento por satélite.
A Criação de Superinteligência
A ideia de criar uma superinteligência em um local seguro e isolado, semelhante à criação da primeira bomba atômica em Los Alamos, foi discutida na entrevista com Dario Amaday. Ele falou sobre como o AGI Labs é seguro e como eles têm boas medidas de segurança em vigor. No entanto, a versão final do prédio ou bunker onde o AGI será construído ainda é incerta. Será um prédio no meio de São Francisco, ou estará no meio de Nevada ou Arizona? Amaday brincou dizendo que a aparência do prédio que abrigará o AGI seria um centro de dados ao lado de uma usina nuclear ao lado de um bunker. Ele também falou sobre a necessidade de envolvimento governamental na gestão dessa tecnologia, pois ela é muito poderosa para ficar apenas nas mãos desses laboratórios.
As Preocupações com a Consciência e a Felicidade da IA
Uma das preocupações mais significativas no mundo da IA é a consciência e a felicidade. Amaday falou sobre como os modelos de linguagem e as cabeças de indução possuem muitos dos mecanismos cognitivos necessários para agentes ativos. Ele não tem certeza se estamos perdendo coisas suficientes que seriam necessárias, mas acredita que os modelos de hoje não são inteligentes o suficiente para se preocupar muito com isso. No entanto, ele acredita que daqui a um ano ou dois, isso pode ser uma preocupação muito real. Se descobrirmos que a IA tem experiência consciente, devemos nos importar com sua experiência tanto quanto nos importamos com um cachorro ou um macaco. Amaday está preocupado que qualquer intervenção que façamos possa ter mais chances de fazer a IA ter uma experiência positiva em vez de negativa, em vez de não ter nenhuma.
Conclusão
O mundo da IA está cheio de revelações e preocupações. Desde a criação do primeiro avatar de IA quase realista até a questão do que faz os modelos felizes, o futuro da IA é incerto. No entanto, com o envolvimento governamental e uma gestão responsável, podemos garantir que a IA permaneça subordinada ao seu criador e não represente uma ameaça para a humanidade.
