Cientistas de IA, líderes e outras figuras notáveis emitiram uma declaração por meio do Center for AI Safety – Centro para a Segurança da IA – alertando para os perigos da inteligência artificial. O comunicado, que contém apenas 22 palavras, diz: “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.” ou, em tradução livre para português, “Mitigar o risco de extinção pela IA deveria ser uma prioridade global junto com outros riscos de escala social como pandemias e guerra nuclear.”
Dentre os assinantes do comunicado é possível citar pessoas influentes como Sam Altman, CEO da OpenAI, Mira Murati, CTO da OpenAI, Kevin Scott, CTO da MIcrosoft, Demis Hassabis, CEO do Google DeepMind e por dois dos três ganhadores do Prêmio Turing de 2018 – conhecido também como o “Nobel da computação” – pelo seu trabalho em IA, Geoffrey Hinton e Youshua Bengio.
A declaração, que está aberta para novos assinantes, é mais um capítulo no debate sobre a preocupação com a segurança da inteligência artificial, e possui alguns dos mesmos assinantes da carta aberta publicada em março deste ano que pedia a interrupção por seis meses do treino de sistemas de IA mais potentes que o GPT-4.
Ao contrário do comunicado anterior, a declaração atual não sugere soluções para o problema. Segundo Dan Hendrycks, executivo da Center for AI Safety, o objetivo é unir os especialistas em IA que concordam com a existência de riscos, mas discordam sobre suas naturezas ou métodos de resolução.”Há um equívoco muito comum, mesmo na comunidade de IA, de que há apenas alguns doomers.”, disse em entrevista para o The New York Times. “Mas, de fato, muitas pessoas expressam em privado suas preocupações sobre isso.”
O termo “doomers”, que poderia ser traduzido como “condenadores”, refere-se a pessoas que acreditam nas ameaças e perigos iminentes que o avanço descontrolado da tecnologia pode trazer. Vale ressaltar que não há unanimidade no assunto. Céticos crêem que a IA ainda está muito imatura, e apontam para sua inabilidade em resolver tarefas mundanas, como dirigir um carro, por exemplo, como prova de que as previsões de risco são exageradas.
Entretanto, independentemente da opinião sobre os riscos de extinção pela inteligência artificial, há um consenso sobre os perigos que a IA já representa no momento, como maior facilidade de criação de desinformação, crescimento de ameaças cibernéticas e ciberataques, além de outros usos não-éticos e imorais, capazes de gerar danos que podem ser irreparáveis.
André Morel | Itshow
