A startup Anthropic, fundada por ex-funcionários da OpenAI, lançou um chatbot rival do famoso ChatGPT, chamado Claude.
Esta inteligência artificial pode executar diversas tarefas, como pesquisar documentos, resumir, escrever, codificar e responder perguntas sobre tópicos específicos, assim como o ChatGPT da OpenAI.
No entanto, a Anthropic afirma que Claude apresenta menor probabilidade de produzir resultados prejudiciais, é mais fácil de conversar e oferece maior controle.
A ferramenta será paga e as organizações podem começar a solicitar o acesso. Porém, o preço ainda não foi detalhado.
De acordo com um porta-voz da empresa ao TechCrunch:
Achamos que Claude é a ferramenta certa para uma ampla variedade de clientes e casos de uso. Estamos investindo em nossa infraestrutura para atender modelos há vários meses e estamos confiantes de que podemos atender à demanda dos clientes.
Como o Claude está sendo usado?
Após um beta fechado no final do ano passado, a Anthropic testou silenciosamente Claude com parceiros de lançamento, incluindo Robin AI, AssemblyAI, Notion, Quora e DuckDuckGo.
Duas versões já estão disponíveis por meio de uma API, Claude e um derivado mais rápido e menos dispendioso chamado Claude Instant.
Ele é usado em conjunto com o ChatGPT para alimentar a ferramenta DuckAssist, recentemente lançada pela DuckDuckGo, que responde diretamente às consultas de pesquisa simples dos usuários.
Além disso, a IA está disponível para uso no aplicativo experimental de bate-papo AI do Quora, Poe.
No Notion, Claude é parte do back-end técnico do assistente de redação de IA, Notion AI, integrado ao espaço de trabalho da plataforma.
O CEO da empresa Robin falou sobre o uso da ferramenta:
Usamos Claude para avaliar partes específicas de um contrato e sugerir uma nova linguagem alternativa que seja mais amigável para nossos clientes. Descobrimos que Claude é realmente bom em entender a linguagem — inclusive em domínios técnicos como a linguagem jurídica. Também é muito confiante em redigir, resumir, traduzir e explicar conceitos complexos em termos simples.
Claude evita os erros do ChatGPT e outros sistemas de chatbot de IA como esse?
Os chatbots modernos cometem erros notórios, como alucinações, por exemplo, em que eles inventam fatos quando questionados sobre tópicos além de suas principais áreas de conhecimento.
De acordo com a Anthropic, Claude foi treinado para evitar saídas sexistas, racistas e tóxicas, bem como para evitar ajudar humanos a se envolverem em atividades ilegais ou antiéticas, assim como o ChatGPT.
Embora isso seja comum no mundo dos chatbots de IA, o que diferencia Claude é uma técnica conhecida como “IA constitucional”.
O que é “IA constitucional”?
A abordagem “IA constitucional” é baseada em princípios para alinhar os sistemas de IA com as intenções humanas. Ela permite que a IA, semelhante ao ChatGPT, responda a perguntas usando um conjunto simples de princípios como guia.
Para criar Claude, a Anthropic iniciou com uma lista de cerca de 10 princípios que formavam uma “constituição” de IA constitucional.
Embora esses princípios não tenham sido divulgados publicamente, a empresa afirma que eles se baseiam nos conceitos de beneficência (maximizar o impacto positivo), não maleficência (evitar dar conselhos prejudiciais) e autonomia (respeitar a liberdade de escolha).
A Anthropic usou um sistema de IA, diferente do Claude, para aprimoramento próprio, com base em princípios constitucionais, escrevendo respostas para várias solicitações e revisando-as de acordo com a constituição.
Depois de explorar milhares de solicitações, a IA selecionou as respostas mais consistentes com a constituição, que foram usadas para treinar Claude.
No entanto, a Anthropic tenha admitiu que a IA tem limitações, que foram reveladas durante o beta fechado, como menor habilidade em matemática e programação em comparação ao ChatGPT, e às vezes apresenta falhas como inventar nomes de substâncias químicas inexistentes e dar instruções questionáveis.
O desafio é fazer modelos que nunca tenham alucinações, mas ainda sejam úteis – você pode entrar em uma situação difícil em que o modelo descobre que uma boa maneira de nunca mentir é nunca dizer nada, então há uma compensação aí que estamos trabalhando. Também fizemos progressos na redução das alucinações, mas ainda há mais a fazer — disse o porta-voz da Anthropic.
Parceria da Anthropic com o Google
Mais recentemente, o Google prometeu US$ 300 milhões na Anthropic por uma participação de 10% na startup.
Sob os termos do acordo, que foi relatado pela primeira vez pelo Financial Times, a Anthropic concordou em tornar o Google Cloud seu “provedor de nuvem preferido” com as empresas “co-desenvolvendo sistemas de computação de IA”.
Fonte: TechCrunch
