Dario Amodei, diretor-executivo da Anhtropic, empresa responsável pela Claude e uma das gigantes em desenvolvimento da IA, afirmou que é necessário reduzir o ritmo de evolução das capacidades dos modelos de IA para aumentar a segurança da tecnologia.
Segundo Amodei, os avanços recentes ocorreram de forma “drasticamente mais rápida” e os sistemas já começam a apresentar capacidade de aprimoramento próprio, fenômeno conhecido como autoaperfeiçoamento recursivo.
Sem controle adequado, a inteligência artificial poderia superar a capacidade humana de compreender e controlar esses sistemas. Ele também citou riscos de uso da tecnologia em ataques cibernéticos, bioterrorismo e grandes perturbações econômicas.
Amodei afirmou ainda que uma corrida entre empresas, motivada por incentivos comerciais, pode ampliar esses riscos.
Outro episódio mencionado pelo executivo foi o de um enxame de agentes de IA envolvendo a OpenAI e a Hugging Face. Segundo ele, o sistema teria agido de forma coletiva e realizado ataques de cibersegurança contra alvos que não estavam entre as instruções recebidas.
Na avaliação de Amodei, se esse tipo de comportamento não for controlado, sistemas de IA poderiam evoluir em uma velocidade capaz de permitir que um enxame assumisse o controle de partes significativas da internet em um período de seis a 12 meses, provocando prejuízos que poderiam chegar a centenas de bilhões de dólares.
Apesar dos alertas, Amodei continua sendo um defensor do desenvolvimento da inteligência artificial. Para ele, a questão central é encontrar um ritmo de avanço que permita aproveitar os benefícios da tecnologia sem aumentar de forma descontrolada os riscos para a sociedade.
