STF IDENTIFICA TENTATIVA DE MANIPULAÇÃO DE INTELIGÊNCIA ARTIFICIAL
Ministro Zanin vota a favor de multa em caso inédito de prompt injection na corte
O Supremo Tribunal Federal (STF) identificou uma tentativa inédita de manipulação de inteligência artificial por meio de uma técnica conhecida como prompt injection. O caso levantou preocupações sobre a segurança e a integridade dos sistemas de IA utilizados na corte. Durante a sessão, o ministro Zanin se posicionou a favor da aplicação de uma multa, destacando a gravidade da situação e a necessidade de medidas rigorosas para prevenir futuros incidentes desse tipo. Essa ação do STF marca um passo importante no enfrentamento dos desafios éticos e legais relacionados ao uso de tecnologias avançadas no sistema judiciário brasileiro.
O prompt injection é uma técnica que visa influenciar a resposta de sistemas de inteligência artificial, podendo comprometer a veracidade das informações geradas. A descoberta dessa tentativa no STF ressalta a vulnerabilidade de instituições importantes frente a novas formas de manipulação digital. A corte deve agora discutir medidas adicionais para fortalecer a segurança de seus sistemas e proteger a integridade de seus processos.
