A Inteligência Artificial (IA) deixou de ser apenas um tópico em alta para se tornar uma realidade empresarial. Segundo uma pesquisa da Accenture, 73% das empresas em todo o mundo consideram a IA uma prioridade em seus investimentos. Nesse contexto, organizações como a AI Google e a OpenAI, responsável pelo ChatGPT, estão desenvolvendo suas próprias IAs.
No entanto, para Julio Cesar Fort, Sócio e Diretor de Serviços Profissionais da Blaze Information Security, uma empresa global especializada em segurança ofensiva, é crucial implementar medidas de segurança para garantir que essas tecnologias atuem como aliadas e não como vulnerabilidades.
Desafios da Privacidade na IA
Desenvolver e utilizar IA apresenta desafios significativos relacionados à privacidade. A coleta excessiva de dados, riscos de viés e reidentificação de pessoas a partir de dados anônimos são algumas das preocupações apontadas por Fort. Para mitigar esses riscos, o especialista sugere medidas como a coleta apenas de dados essenciais, a utilização de técnicas que garantam a privacidade durante o treinamento da IA, como a aprendizagem diferencial, e a promoção da transparência nos processos.
“Auditorias regulares e capacitação da equipe são cruciais para garantir que a privacidade e a proteção de dados sejam respeitadas”, destaca Fort.
Defesa em Camadas e Testes Rigorosos
Fort ressalta a importância de uma defesa em camadas, abrangendo tanto a infraestrutura quanto a aplicação, para garantir a segurança dos dados utilizados no treinamento dos modelos de IA. Testar os modelos em diversos cenários é outra medida vital para assegurar seu comportamento esperado.
“Técnicas de defesa contra ataques adversários, como o re-treinamento adversarial, e o monitoramento em tempo real para detectar comportamentos anômalos são úteis”, complementa o especialista. Manter os sistemas atualizados com os patches de segurança mais recentes e garantir controles de acesso rigorosos são medidas-chave na prevenção de ataques.
Transparência na Tomada de Decisões da IA
A transparência na tomada de decisões é crucial para otimizar a técnica e construir a confiança do público. Quando as decisões de um sistema de IA são transparentes, fica mais fácil identificar e corrigir erros, falhas ou vieses. Fort destaca que a compreensão do processo decisório da IA torna a tecnologia mais aceitável e facilita a identificação de potenciais ameaças ou abusos.
Investimentos em IA e Cibersegurança Caminham Juntos
Se a IA tem sido o foco dos investimentos nas empresas, a cibersegurança também se destaca como uma preocupação essencial. De acordo com o “Worldwide Security Spending Guide” da IDC, o investimento em segurança cibernética deverá atingir quase 300 mil milhões de dólares até 2026.
Para Fort, investir em cibersegurança é fundamental, especialmente quando as empresas direcionam recursos para a criação e uso de IA. Ele alerta sobre vulnerabilidades como ataques adversariais e prompt injection, destacando que o investimento em cibersegurança não é apenas uma medida de precaução, mas uma necessidade crítica para enfrentar os desafios da era digital.
Sobre a Blaze Information Security
A Blaze Information Security é uma das principais empresas globais especializadas em segurança ofensiva, com foco em teste de intrusão (pentest) e desenvolvimento seguro contra ataques cibernéticos. Com hackers profissionais experientes em sua equipe, a empresa se destaca por antecipar as estratégias dos cibercriminosos, oferecendo aos clientes um planejamento sob medida e seguro. Atendendo os setores financeiro, de petróleo, seguradoras, e-commerce e startups, a Blaze possui presença global e planeja expandir sua atuação no mercado norte-americano e em outros países da América Latina.