Parece que a corrida para desenvolver a tecnologia de Inteligência Artificial (IA) está começando a ficar assustadora.
Elon Musk e dezenas de outros líderes de tecnologia, incluindo a Apple e o cofundador Steve Wozniak, juntamente com o candidato presidencial de 2020, Andrew Yang, escreveram uma carta aberta do Future of Life Institute, solicitando que os laboratórios de IA parassem de desenvolver sistemas que possam competir com a inteligência em nível humano.
O apelo também incluiu uma solicitação para que interrompam o treinamento de modelos mais poderosos do que o GPT-4, a versão mais recente do grande software de modelo de linguagem desenvolvido pela startup americana OpenAI.
Future of Life Institute e a carta dos líderes de tecnologia
Com sede em Cambridge, o Future of Life Institute é uma organização sem fins lucrativos que promove o desenvolvimento responsável e ético da inteligência artificial.
Seus fundadores incluem Max Tegmark, cosmólogo do MIT, e Jaan Tallinn, cofundador do Skype.
Anteriormente, a organização conseguiu o compromisso de Elon Musk e do laboratório de IA DeepMind, do Google, de nunca desenvolver sistemas letais de armas autônomas.
A indagação da carta aberta do Instituto é fazer com que as pessoas reflitam nas consequências dessa corrida tecnológica:
Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?
Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?
Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos.
O instituto disse que está pedindo a todos os laboratórios de IA que “pausem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4”.
“Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, acrescentou.
ChatGPT, o chatbot de IA viral
Com sua habilidade de produzir respostas semelhantes às humanas às solicitações do usuário, o chatbot de IA ChatGPT surpreendeu os pesquisadores.
Em janeiro, apenas dois meses após o lançamento, o ChatGPT atingiu 100 milhões de usuários ativos mensais, tornando-se o aplicativo de consumo de crescimento mais rápido da história.
Sua tecnologia é treinada com grandes volumes de dados da internet e tem sido usada para criar uma ampla variedade de conteúdo.
No entanto, especialistas em ética da IA também expressaram preocupações com possíveis abusos da tecnologia, como plágio e disseminação de desinformação.
A corrida tecnológica pela melhor IA
Na carta do Future of Life Institute, líderes de tecnologia e acadêmicos disseram que os sistemas de IA com inteligência competitiva humana representam riscos profundos para a sociedade e a humanidade:
A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.
A OpenAI, apoiada pela Microsoft, recebeu um investimento de US$ 10 bilhões da gigante de tecnologia de Redmond, Washington.
A Microsoft também integrou a tecnologia de processamento de linguagem natural GPT da empresa em seu mecanismo de busca Bing para torná-lo mais conversacional.
Posteriormente, o Google anunciou seu próprio produto concorrente de IA de conversação para consumidores, chamado Google Bard.
Musk disse anteriormente que acha que a IA representa um dos “maiores riscos” para a civilização.
Elon Musk cofundou a OpenAI em 2015 com Sam Altman e outros, embora ele tenha deixado o conselho da OpenAI em 2018 e não tenha mais participação na empresa.
Ele criticou a organização várias vezes recentemente, dizendo acreditar que ela está divergindo de seu propósito original.
Os reguladores também estão correndo para controlar as ferramentas de IA, pois a tecnologia está avançando em ritmo acelerado.
O governo do Reino Unido publicou um white paper sobre IA, deixando que diferentes reguladores supervisionassem o uso de ferramentas de IA em seus respectivos setores, aplicando as leis existentes.
Fonte: CNBC
