Gary Marcus, cientista e professor emérito da NYU (Universidade de Nova York), nos Estados Unidos, tem se destacado como uma das principais vozes no debate sobre a IA (Inteligência Artificial) na atualidade.
Embora tenha enfrentado críticas e ceticismo no passado, Gary Marcus vem sendo reconhecido por suas previsões precisas e cautelosas em relação à IA. Sua visão e seu engajamento no debate sobre os riscos associados ao avanço da tecnologia têm despertado a atenção de especialistas e acadêmicos, estimulando a reflexão sobre a necessidade de um desenvolvimento responsável da Inteligência Artificial.
Em uma entrevista para a BBC News Brasil, Marcus descreveu o atual momento da IA como algo “inacreditável” e alertou para os potenciais riscos envolvidos. Ele comparou o lançamento do ChatGPT, desenvolvido pela OpenAI, ao “momento Jurassic Park” das máquinas, onde a situação pode fugir do controle, assim como no famoso filme de Steven Spielberg.
LEIA TAMBÉM
Milhões de sites WordPress recebem patch de correção para vulnerabilidade crítica do Jetpack
Phishing: Veja 7 ações para proteger seus dados após cair em um golpe
Confirmações previstas por Gary Marcus
Embora tenha sido inicialmente considerado “louco e alarmista”, os eventos recentes têm confirmado as preocupações levantadas por Marcus. Um exemplo ocorreu na Bélgica, onde um homem que conversava frequentemente com o chatbot Eliza, da empresa Chai, cometeu suicídio.
Sua esposa afirma que o contato com o programa o levou a tomar essa decisão drástica, levantando sérias questões sobre o perigo do uso irresponsável da IA.
Marcus havia previsto esse cenário quatro meses antes, em um artigo para a revista Wired. Ele levantou a possibilidade de um chatbot causar danos profundos a ponto de levar alguém a tirar a própria vida.
O neurocientista reforçou suas preocupações na entrevista para a BBC e afirmou que esses sistemas de IA podem ser extremamente destrutivos. Ele ressaltou a falta de controle e confiabilidade dos programas atuais, destacando que eles podem inventar informações e apresentá-las como fatos, além de serem utilizados por pessoas mal-intencionadas.
7 previsões sombrias de Gary Marcus
Para ajudar a compreender as implicações desses avanços da IA, Marcus compilou “sete previsões sombrias” sobre sistemas como o ChatGPT. Uma delas era a de que a versão mais recente do programa seria como um “touro em uma loja de porcelanas”, propenso a cometer erros estúpidos e imprevisíveis.
Essa previsão se confirmou recentemente, quando o ChatGPT foi solicitado a listar acadêmicos envolvidos em casos de assédio sexual. O programa mencionou erroneamente um professor de Direito, fazendo acusações falsas que mancharam sua reputação.
Em seus artigos e entrevistas, Marcus ressalta a necessidade de regulamentação e controle sobre o desenvolvimento da IA. Ele argumenta que deixar essas questões apenas nas mãos das empresas não garantirá o caminho correto. Um exemplo citado por ele foi sobre o setor aéreo, que passou por regulamentações no passado e conseguiu melhorar a segurança dos voos.
O professor também defende a criação de tecnologias para detectar e combater a desinformação, a fim de evitar um ambiente de pós-verdade, responsabilizando quem produz informações falsas em larga escala.
Quem é Gary Marcus
Gary Marcus, além de cientista e professor emérito da NYU, é escritor, empresário. Fundou a Geometric Intelligence, uma empresa de aprendizado de máquina, em 2014 que foi adquirida pela Uber em dezembro de 2016. Em 2019, Marcus lançou a startup Robust.AI com Rodney Brooks, co-fundador da iRobot e co-inventor do Roomba.
Autor de vários livros, sua obra mais recente, “Rebooting AI”, com Ernest Davis, é um dos 7 livros recomendados pela Forbes em IA. Ele faz o boletim informativo “The Road to AI We Can Trust”, e tem o podcast “Humans vs. Machines”.
LEIA MAIS
Reestruturação dos Ministérios: deputados aprovam MP
