Os CEOs do Google DeepMind, Demis Hassabis; da OpenAI, Sam Altman; da Anthropic, Dario Amodei; e da Microsoft AI, Mustafa Suleyman, entre outros líderes de empresas de IA, publicaram uma carta aberta conjunta pedindo que o Congresso dos EUA legisle para obrigar as empresas que vendem DNA e RNA sintéticos a examinar a identidade dos clientes e o conteúdo dos pedidos, a fim de evitar que material genético seja usado para desenvolver armas biológicas. A carta aberta, liderada pelo Instituto para o Progresso, uma organização apartidária, e pela Fundação para a Inovação Americana, de tendência conservadora, também foi assinada por um microbiologista da Universidade de Stanford, executivos de empresas de síntese genética como Twist Bioscience e Ansa Biotechnologies, e vários especialistas em segurança nacional. A carta alerta que, com a rápida evolução da IA, „a barreira histórica de conhecimento que impedia agentes mal-intencionados de obter armas biológicas foi significativamente corroída — e isso é uma possibilidade real“ — as ferramentas de IA podem não só ajudar os usuários a localizar fornecedores que não realizam triagem, mas também sugerir como modificar pedidos para escapar dos mecanismos de detecção existentes.
O tema da segurança na indústria de DNA sintético não é novo, mas a IA está reduzindo drasticamente a barreira técnica. Em 2017, pesquisadores canadenses reconstruíram o vírus da varíola equina, já extinto, usando DNA comprado pelo correio por cerca de 100 mil dólares, e a comunidade científica imediatamente alertou que o mesmo método poderia ser usado para sintetizar o vírus da varíola, altamente relacionado. Desde então, os custos da síntese genética caíram significativamente. Uma pesquisa publicada no ano passado por pesquisadores da Microsoft mostrou que sequências genéticas perigosas geradas por ferramentas de design de proteínas de IA podem escapar da detecção pelos principais softwares de triagem. Atualmente, as diretrizes do governo Biden já exigem que instituições financiadas pelo governo federal comprem genes sintéticos apenas de fornecedores que realizam triagem. No Senado dos EUA, há um projeto de lei bipartidário (Lei Cotton-Klobuchar) em análise que, se aprovado, obrigará todos os fornecedores de genes sintéticos que operam nos EUA a implementar mecanismos de triagem de pedidos e clientes.