A Anthropic, criadora do assistente virtual Claude, defendeu a adoção imediata de uma moratória global sobre o avanço da inteligência artificial. Em manifesto publicado em seu blog oficial, a empresa compara o ritmo acelerado dessa tecnologia ao perigo representado por armas nucleares e alerta para um possível ponto de autonomia irreversível.
Proposta de suspensão temporária
Segundo a Anthropic, a pausa deveria ocorrer de forma coordenada entre concorrentes, seguindo um modelo semelhante aos tratados internacionais que regulamentam o desarmamento nuclear. Para garantir o cumprimento, as companhias envolvidas realizariam auditorias físicas e de software nos data centers umas das outras, de modo a evitar desenvolvimentos secretos durante o período de suspensão.
Agenda de diálogos com setores públicos e privados
A empresa informou que planeja promover rodadas de conversas com formuladores de políticas públicas, pesquisadores acadêmicos e executivos de outras organizações do setor. O objetivo é discutir os termos do acordo, abordar possíveis lacunas de fiscalização e apresentar os resultados dessas reuniões ao público em um relatório futuro.
Antecedentes e desafios
Em 2023, o Future of Life Institute, ONG voltada para prevenção de riscos tecnológicos, já havia convocado uma pausa de seis meses em experimentos com grandes modelos de IA. A carta aberta reuniu o apoio de mais de mil personagens influentes, incluindo o bilionário Elon Musk. Na época, a iniciativa não avançou, em grande parte por receio de perda de competitividade e pelo fato de que qualquer desaceleração de empresas americanas poderia favorecer concorrentes na China.
O manifesto da Anthropic reconhece esse impasse: argumenta que treinamentos de IA utilizam hardware de uso geral e são fáceis de ocultar, além de gerar incentivo financeiro para violações encobertas, já que quem avançar livremente poderia dominar um mercado estimado em trilhões de dólares.
Imagem: Imagem ilustrativa
Contraste entre alerta e atividades da Anthropic
Apesar do tom de urgência, a própria Anthropic mantém um ritmo intenso de pesquisa e desenvolvimento. De acordo com a Bloomberg, o laboratório lançou recentemente o modelo Mythos, capaz de identificar e explorar vulnerabilidades em sistemas operacionais, e avança nos preparativos para sua oferta pública inicial de ações (IPO).
O debate sobre a regulação do avanço da inteligência artificial ganha força à medida que novas capacidades emergem com velocidade crescente, suscitando preocupações sobre segurança, privacidade e futuro do trabalho.
Com informações de Tecnoblog
