Princípios de IA: Garantindo o Uso Seguro da Inteligência Artificial em Ambientes de Pagamento

O Conselho de Padrões de Segurança da Indústria de Pagamentos (PCI SSC) publicou um conjunto de princípios voltados à segurança no uso da inteligência artificial (IA) em sistemas e ambientes de pagamento. Com o avanço rápido da tecnologia e a introdução de sistemas de IA com autonomia para executar ações, o documento visa orientar empresas sobre como empregar essas soluções de forma segura e alinhada aos requisitos das normas PCI, como o PCI DSS v4.0.

O PCI SSC reforça que o uso de IA não elimina a necessidade de conformidade com os padrões de segurança já existentes. Sistemas de IA devem proteger adequadamente dados armazenados, processados e transmitidos, mesmo que suas operações sejam complexas ou pouco transparentes. Além disso, as organizações devem garantir que sempre exista um humano supervisionando os processos conduzidos pela IA, prevenindo que ela atue sem controle em atividades críticas.

Os princípios destacam que sistemas de IA não devem manipular dados sensíveis sem proteção, gerar valores secretos ou operar sem supervisão humana. Também não devem ter acesso a informações além do necessário, respeitando o conceito de privilégio mínimo. Entre as práticas recomendadas, está o uso de dados tokenizados, a validação contínua do funcionamento dos modelos e a implementação de mecanismos de desativação rápida em caso de incidentes.

Por outro lado, a IA pode ser utilizada para auxiliar em decisões de aprovação, detectar fraudes, gerar relatórios e interagir com usuários, desde que sua atuação seja monitorada e registrada. É essencial também considerar que a IA pode ser explorada por atacantes, exigindo planos de resposta a incidentes que contemplem cenários de uso malicioso ou manipulação de seus sistemas.

O PCI SSC conclui que, embora a IA traga eficiência e inovação, ela deve ser tratada como um elemento de risco que exige supervisão constante, controles robustos e aderência aos princípios de segurança do setor de pagamentos. A aplicação responsável desses princípios ajuda a garantir que a IA fortaleça, e não comprometa, a integridade dos ambientes financeiros.

Fonte: https://blog.pcisecuritystandards.org/ai-principles-securing-the-use-of-ai-in-payment-environments