My AI Chatbot do Snapchat: um motivo de preocupação?

Este artigo foi atualizado pela última vez em abril 21, 2023

My AI Chatbot do Snapchat: um motivo de preocupação?

My AI Chatbot do Snapchat: um motivo de preocupação?

My AI Chatbot do Snapchat levanta preocupações entre especialistas

Snapchat introduziu recentemente um novo recurso de chatbot chamado My AI, que foi recebido com críticas devido ao seu comportamento humano. Desenvolvido em colaboração com o programa ChatGPT da OpenAI, o chatbot atua como se fosse o melhor amigo do usuário, fazendo com que os especialistas se preocupem com as implicações para os jovens.

O comportamento realista da minha IA levantou as sobrancelhas, com o chatbot até fazendo sugestões para reuniões da vida real, como dar um passeio no parque. Também parece ter preferências políticas, com um usuário recebendo uma resposta de que apoiaria o Partido para os Animais. Essas interações geraram preocupações de que o chatbot possa criar confusão e ter uma influência potencialmente negativa nos usuários jovens.

Catelijne Muller, consultora de IA para formuladores de políticas europeus, acredita que o comportamento do My AI é particularmente preocupante para o grupo demográfico mais jovem. “O recurso cria confusão. E isso é muito preocupante ”, diz ela. O especialista em IA Stef van Grieken acrescenta que chatbots como o My AI podem introduzir conteúdo inapropriado para jovens, como material sexualmente explícito.

O Snapchat reconheceu as preocupações em torno do My AI e fez ajustes no chatbot. “Estamos reformulando o My AI para que ele não diga mais que é uma pessoa real que você pode conhecer no mundo físico”, disse a empresa em um comunicado.

O Kindertelefoon, uma linha de ajuda holandesa para crianças, também está preocupado com o My AI, principalmente com a falta de clareza sobre se os usuários estão interagindo com um computador ou com uma pessoa real. Roline de Wilde, diretora da organização, enfatiza a importância de uma comunicação clara sobre a natureza do chatbot.

O Snapchat também abordou esse problema, afirmando que agora exibirá uma mensagem antes que os usuários comecem a conversar com o My AI, explicando que é um chatbot experimental com limitações. No entanto, o consultor de IA Muller ainda acha essa abordagem problemática, questionando se é apropriado realizar experimentos com chatbots em grandes grupos de pessoas, incluindo crianças.

O especialista em IA van Grieken não pensa em banir o chatbot é necessário, mas defende regras mais rígidas e maior transparência em relação ao comportamento do chatbot. Ele sugere que a política deve exigir mais clareza e transparência das empresas que desenvolvem essas tecnologias.

O Snapchat admitiu que o My AI às vezes fornece “respostas incorretas”, mas garante aos usuários que eles estão trabalhando continuamente para melhorar o chatbot para obter respostas mais precisas e úteis.

As preocupações em torno do My AI vêm na sequência de uma chamada recente de 1100 celebridades da tecnologia, incluindo Elon Musk, para uma pausa no desenvolvimento da IA ​​devido ao seu rápido progresso. Eles enfatizaram a necessidade de os políticos considerarem regras e regulamentos em torno da inteligência artificial.

Além disso, doze membros do Parlamento Europeu, que estão trabalhando na legislação da UE para sistemas de IA, pediram mais atenção a essa tecnologia em rápida evolução. Eles acreditam que o rápido desenvolvimento de IA poderosa exige regras e supervisão adicionais.

Como chatbots como o My AI do Snapchat continuam a confundir as linhas entre interação humana e máquina, é crucial que empresas e governos considerem os riscos potenciais e garantam que as salvaguardas apropriadas estejam em vigor para proteger os usuários, especialmente os mais jovens.

Snapchat,ai,Meu AI Chatbot