São Paulo/SP – 01 de março de 2024 – O AI TRiSM (Artificial Intelligence Trust, Risk and Security Management) é um framework crucial para garantir a sustentabilidade e segurança na implementação de soluções de Inteligência Artificial nas organizações.
* Leandro Zilli
OVERVIEW
A adoção de soluções de Inteligência Artificial vem despertando o interesse das organizações para otimizar e melhorar os seus processos, porém os riscos durante o processo de implantação ou utilização não recebem a devida consideração. Sendo assim, o surgimento do AI TRiSM é fundamental para que todo o processo quanto ao uso de soluções de Inteligência Artificial nas organizações seja sustentável, confiável, seguro e aderente a quaisquer regulações (atuais e futuras).
Segundo definição do Gartner, o AI TRiSM (Artificial Intelligence Trust, Risk and Security Management – Confiança, Risco e Gerenciamento de Segurança) é um framework que dá suporte ao modelo de Inteligência Artificial provendo governança, confiabilidade, imparcialidade, segurança, solidez, eficácia e privacidade. Abaixo uma breve descrição explicativa:
- Confidence: confiança envolve ser transparente e demonstrar que o modelo adotado entrega os resultados desejados e seu comportamento conforme esperado;
- Risk: demonstrar que é presente o gerenciamento de riscos bem implementado no processo de desenvolvimento da Inteligência Artificial e conferindo questões de integridade e conformidade dos dados;
- Gerenciamento in Segurança: considerações de segurança sendo presentes em todas as etapas do processo da Inteligência Artificial.
O uso deste framework promove soluções, técnicas e processos considerando 4 pilares: Interpretação/ “Explicabilidade” de modelos (Explainability/Model Monitoring), Operações de modelos (ModelOps), Resistência a ataques adversariais (AI Application Security) e Privacidade (Privacy), conforme abaixo:
- Interpretação/ “Explicabilidade” in modelos: prover um modelo que demonstra como é realizada a tomada de decisão, permitindo compreender o modelo adotado e as etapas do seu funcionamento;
- Operações in modelos: manter e gerenciar o ciclo de vida dos modelos de Inteligência Artificial, desde o seu desenvolvimento a produção e melhoria contínua, considerando não somente o modelo, mas toda a sua infraestrutura (recursos, infraestrutura, etc.);
- Resistência a ataques adversariais: adoção de ferramentas e estratégias para identificar, combater e resistir a ataques de forma proativa, preventiva e/ou reativa;
- Privacidade: prover a proteção e privacidade dos dados, provendo segurança e conformidade com leis e regulamentações relacionadas.
DESAFIOS E RISCOS
As organizações devem implementar o AI TRiSM nos projetos de Inteligência Artificial desde a sua concepção até a implementação, tendo em vista, que se trata de uma tarefa recorrente/contínua, não sendo de uma aplicação única. Isto irá proporcionar resultados mais satisfatórios nos projetos de Inteligência Artificial quanto a sua adoção, aceitação dos usuários e objetivos de negócio da organização.
Porém, muitas vezes é despertado o interesse sobre o tema quando as soluções de Inteligência Artificial já estão implementadas, o que pode gerar dificuldades às organizações, já que nesta etapa nem sempre é possível explicar ou interpretar as suas funcionalidades.
Isto demonstra que as empresas não estão gerenciando os riscos relacionados a Inteligência Artificial, podendo levar as organizações a tomarem decisões de negócio equivocadas, assim como, serem mais propensas a resultados negativos, como o não funcionamento conforme planejado e violações, falhas de segurança e privacidade, resultando em impactos financeiros, reputacional e danos aos indivíduos tendo em vista que muitas vezes poderão estar envolvidos dados de clientes, segredos comerciais ou dados pessoais.
Outro ponto relevante quanto a adoção do AI TRiSM é que cada dia mais temos regulamentações sendo publicadas, principalmente devido a necessidade de prover confiabilidade, fidelidade, segurança e privacidade. No Brasil, por exemplo, já existem iniciativas quanto a regulação do uso da Inteligência Artificial, sendo entre algumas vertentes a atenção especial quanto a LGPD.
Para que seja possível uma implementação eficaz do AI TRiSM deve-se considerar uma equipe multidisciplinar e se possível dedicada ao tema, ou seja, envolver pessoas de diversas áreas como desenvolvimento, segurança da informação, tecnologia da informação, jurídico, compliance e demais áreas pertinentes e que poderão colaborar quanto a finalidade proposta ao projeto de Inteligência Artificial. Caso não seja possível uma equipe dedicada, entre outros motivos devido ao tamanho da organização ou budget, pode ser implantado um calendário para atuação destas partes e assim colaborar no projeto.
Veja mais: Três Dicas Aos CEOs Para A Segurança Cibernética Com Inteligência Artificial.
FUTURO
Falar de Inteligência Artificial é falar do presente, mas as organizações que implementarem as premissas do AI TRiSM, terão futuramente em seus modelos de Inteligência Artificial uma melhora de 50% no resultado em relação à adoção, metas de negócios e aceitação do usuário, considerando até 2026 conforme previsão do Gartner.
Outro ponto que o Gartner prevê é que até 2028 as soluções de Inteligência Artificial serão 20% da força tarefa de trabalho em todo o mundo e até 40% do total da produtividade econômica.
Além disso, o Gartner vem destacando o uso do AI TRiSM nos seus relatórios de “Top Tech Trends” ao menos desde 2023, o que demostra ser um assunto de certa relevância dada a importância destes relatórios as organizações e aos stakeholders.
CONCLUSION
É fato que o AI TRiSM proporcionará bons resultados aos negócios da organização e maior assertividade quanto a adesão e conformidade a leis e regulamentações, sendo um conjunto de soluções para prover proteção e governança na provisão de soluções de Inteligência Artificial.
O AI TRiSM ajudará as empresas a compreenderem as etapas de implementação de Inteligência Artificial, identificar, tratar/mitigar e monitorar os riscos, resultando em um projeto mais eficaz e seguro.
*Leandro Zilli é consultor de GRC na Safeway.
How can we help?
THE [SAFEWAY] é uma empresa de consultoria em Segurança da Informação reconhecida pelos seus clientes por oferecer soluções de alto valor agregado por meio de projetos que atendam integralmente às necessidades do negócio. Em 16 anos de experiência, acumulamos diversos projetos de sucesso que nos renderam credibilidade e destaque em nossos clientes, os quais constituem em grande parte as 100 maiores empresas do Brasil.
Desde março/2023 fazemos parte da Stefanini Ventures que incorpora hoje quase 30 empresas e junto com a Stefanini somam 320 projetos de inteligência artificial em execução e 27 produtos com IA embarcada.
Essa jornada de co-criação e inovação representa um esforço conjunto, onde todas as partes envolvidas seguem unidas, impulsionando o cenário empresarial com soluções inteligentes.
A colaboração entre as empresas do grupo e seus parceiros reforça o compromisso de abraçar as oportunidades proporcionadas pela Inteligência Artificial, transformando desafios em oportunidades e moldando um futuro mais eficiente e tecnologicamente avançado.
Seguimos todos juntos abraçando essa jornada de co-criação e inovação.
