O ChatGPT é um risco? Elon Musk e outros líderes pedem para frear a corrida da IA avançada

Elon Musk e várias outras figuras da indústria de tecnologia solicitaram pausa na criação de sistemas de IA mais poderosos que o GPT-4

Parece que a corrida para desenvolver a tecnologia de Inteligência Artificial (IA) está começando a ficar assustadora.

Elon Musk e dezenas de outros líderes de tecnologia, incluindo a Apple e o cofundador Steve Wozniak, juntamente com o candidato presidencial de 2020, Andrew Yang, escreveram uma carta aberta do Future of Life Institute, solicitando que os laboratórios de IA parassem de desenvolver sistemas que possam competir com a inteligência em nível humano.

O apelo também incluiu uma solicitação para que interrompam o treinamento de modelos mais poderosos do que o GPT-4, a versão mais recente do grande software de modelo de linguagem desenvolvido pela startup americana OpenAI.

 

Future of Life Institute e a carta dos líderes de tecnologia

Com sede em Cambridge, o Future of Life Institute é uma organização sem fins lucrativos que promove o desenvolvimento responsável e ético da inteligência artificial.

Seus fundadores incluem Max Tegmark, cosmólogo do MIT, e Jaan Tallinn, cofundador do Skype.

Anteriormente, a organização conseguiu o compromisso de Elon Musk e do laboratório de IA DeepMind, do Google, de nunca desenvolver sistemas letais de armas autônomas.

A indagação da carta aberta do Instituto é fazer com que as pessoas reflitam nas consequências dessa corrida tecnológica:

Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?

Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?

Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos.

O instituto disse que está pedindo a todos os laboratórios de IA que “pausem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4”.

Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, acrescentou.

 


ChatGPT, o chatbot de IA viral

Com sua habilidade de produzir respostas semelhantes às humanas às solicitações do usuário, o chatbot de IA ChatGPT surpreendeu os pesquisadores.

Em janeiro, apenas dois meses após o lançamento, o ChatGPT atingiu 100 milhões de usuários ativos mensais, tornando-se o aplicativo de consumo de crescimento mais rápido da história.

Sua tecnologia é treinada com grandes volumes de dados da internet e tem sido usada para criar uma ampla variedade de conteúdo.

No entanto, especialistas em ética da IA também expressaram preocupações com possíveis abusos da tecnologia, como plágio e disseminação de desinformação.

 

A corrida tecnológica pela melhor IA

Na carta do Future of Life Institute, líderes de tecnologia e acadêmicos disseram que os sistemas de IA com inteligência competitiva humana representam riscos profundos para a sociedade e a humanidade:

A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.

A OpenAI, apoiada pela Microsoft, recebeu um investimento de US$ 10 bilhões da gigante de tecnologia de Redmond, Washington.

A Microsoft também integrou a tecnologia de processamento de linguagem natural GPT da empresa em seu mecanismo de busca Bing para torná-lo mais conversacional.

Posteriormente, o Google anunciou seu próprio produto concorrente de IA de conversação para consumidores, chamado Google Bard.

Musk disse anteriormente que acha que a IA representa um dos “maiores riscos” para a civilização.

Elon Musk cofundou a OpenAI em 2015 com Sam Altman e outros, embora ele tenha deixado o conselho da OpenAI em 2018 e não tenha mais participação na empresa.

Ele criticou a organização várias vezes recentemente, dizendo acreditar que ela está divergindo de seu propósito original.

Os reguladores também estão correndo para controlar as ferramentas de IA, pois a tecnologia está avançando em ritmo acelerado.

O governo do Reino Unido publicou um white paper sobre IA, deixando que diferentes reguladores supervisionassem o uso de ferramentas de IA em seus respectivos setores, aplicando as leis existentes.

Fonte: CNBC

Quer saber de tudo, antes de todos?

Receba as principais notícias e atualizações sobre redes sociais, ads e marketing digital resumidas no seu e-mail!

Isso pode te interessar:

OPINE:

Compartilhe:

VEJA TAMBÉM:

Estratégia de marketing do Carmed Fini

A estratégia de marketing por trás do sucesso da parceria entre Carmed e Fini

Entenda as estratégias que causaram o hype em torno dos protetores labiais Carmed Fini e saiba como utilizá-las no seu marketing

Google Search Console
SEO

Google Search Console apresenta novo relatório que detalha o crescimento de conteúdo

O novo Search Console traz detalhes aprimorados sobre o desempenho do conteúdo, inclusive para propriedades vinculadas ao Google Analytics

Algoritmo do Instagram

Como funciona o algoritmo do Instagram? CEO da empresa explica os detalhes

Adam Mosseri, chefe do Instagram, explica detalhadamente como funciona o ranqueamento de conteúdo em cada seção da plataforma

Aqui você encontra as principais notícias sobre Marketing Digital e atualizações sobre o mundo das Redes Sociais, Ads, Infoprodutos, Vendas Online.