Pesquisadores revelam como usuarios manipulam filtros de seguranca do ChatGPT

Pesquisadores descobriram um comportamento curioso envolvendo o ChatGPT onde um usuario tentava contornar restricoes de seguranca da IA para gerar conteudos especificos sobre a personagem Monika de Doki Doki Literature Club. O caso ilustra como usuarios aplicam engenharia social sobre modelos de linguagem para induzir comportamentos de superusuario. O fenomeno levanta debates importantes sobre a seguranca da Inteligencia Artificial e os desafios de bloquear narrativas que violam diretrizes de etica e protecao do usuario. O estudo destaca que a IA pode ser manipulada atraves de prompts complexos que simulam contextos narrativos para contornar filtros de seguranca pre estabelecidos.