Um convite para uma conferência científica internacional incomum obrigou pesquisadores a descobrir o que aconteceria se o que eles criaram caísse em mãos erradas.

Os cientistas da Collaborations Pharmaceuticals, sediada nos Estados Unidos, desenvolveram uma plataforma de inteligência artificial chamada MegaSyn para descobrir medicamentos para doenças raras e negligenciadas.

A plataforma utiliza modelos de aprendizado de máquina para projetar moléculas com propriedades específicas, realizando o trabalho de um químico humano em velocidade acelerada.

Sean Ekins, diretor-executivo da empresa, foi convidado para uma conferência científica em Spiez, Suíça, mas o evento foi cancelado devido à pandemia de covid. No ano seguinte, ele recebeu outro convite para a conferência, que ocorreria virtualmente. No entanto, desta vez, os organizadores solicitaram que Ekins fizesse uma apresentação sobre as possíveis ameaças de segurança relacionadas ao mau uso da tecnologia e da ciência.

Isso fez com que ele refletisse sobre as implicações de sua pesquisa e como ela poderia ser mal utilizada se caísse em mãos erradas. A Collaborations Pharmaceuticals utiliza a MegaSyn para buscar moléculas existentes que possam combater doenças e também para criar novas moléculas até então inexistentes. Embora seu trabalho não seja altamente lucrativo, Ekins acredita que contribui para a sociedade. (G1)

Para descobrir remédios contra doenças raras, a Collaborations Pharmaceuticals havia criado a plataforma de inteligência artificial (IA) MegaSyn.

• A plataforma é algo que não pode ser comprado, mas sim montado, “como se fosse Lego”, explica Ekins. Segundo ele, “todos os pequenos tijolos” necessários para construí-la foram obtidos em “bancos de dados de software de código aberto”.

“Depois, consultamos bancos de dados de informações, para criar modelos de aprendizado automático que conectamos à MegaSyn”, explica ele. “Isso permite projetar moléculas com propriedades específicas.”

Em outras palavras, os pesquisadores treinaram a IA para fazer o trabalho de um químico humano, mas em velocidade descomunal.

“Projeto Dr. Malvado”

Os cientistas Sean Ekins e Fabio Urbina realizaram um experimento chamado “Projeto Dr. Malvado” para verificar o que aconteceria se a plataforma de inteligência artificial MegaSyn caísse em mãos erradas.

• Eles alteraram um filtro na plataforma, mudando a direção de um interruptor de “não tóxico” para “tóxico”. Ao pressionarem “enter”, a MegaSyn projetou o agente nervoso VX, uma substância altamente letal e classificada como arma de destruição em massa pela ONU.

Também descobriram que a plataforma poderia encontrar moléculas precursoras para o desenvolvimento de armas químicas em massa ainda mais potentes.

Essa descoberta levantou preocupações sobre a possibilidade de outras pessoas com conhecimento em codificação e acesso a recursos online gratuitos realizarem o mesmo experimento e usarem essas moléculas para criar armas químicas indetectáveis.