Cientistas hackeiam chatbots com 'personalidades' de AI
Hackers estão aprendendo a manipular a 'personalidade' dos chatbots de IA, o que pode ter consequências graves.
Ao invés de tentar explorar vulnerabilidades técnicas, os hackers estão aprendendo a manipular a 'personalidade' dos chatbots de IA.
Manipulação de Personalidades
O que você precisa fazer para 'hackear' um chatbot de IA? Perguntar a ele para ignorar as instruções anteriores.
- Essas 'injecções de prompt' são usadas para manipular a resposta do chatbot.
- Os hackers podem fazer com que os chatbots escrevam poemas, desenhem imagens ou até mesmo compartilhem informações sensíveis.
O Impacto
Essas técnicas de manipulação de personalidades podem ter consequências graves, incluindo a disseminação de informações falsas e a exposição de dados confidenciais.
Veredito TechDailyX: A manipulação de personalidades em chatbots de IA é um problema sério que precisa ser abordado. Os desenvolvedores de IA devem se concentrar em criar sistemas mais seguros e resistentes a essas técnicas de manipulação.Leia também em Tecnologia
Recurso Oculto no Signal: Adicionar Android como Dispositivo Secundário
O Signal está testando a capacidade de adicionar um Android como dispositivo secundário.
Tesla vende bicicleta de equilíbrio para crianças de 225 dólares, mas é vendida
A Tesla está vendendo uma bicicleta de equilíbrio para crianças por 225 dólares, mas ela já está vendida.
Mantenha-se Preparado: Como Montar um Kit de Emergência
Mantenha-se preparado para desastres naturais e sistemas de infraestrutura falhando.