TIC: Afinal, a IA Generativa é heroína ou vilã?

O tema mais comentado nos últimos meses em tecnologia é, sem dúvida, a IA generativa. Ela está dividindo a opinião dos tomadores de decisão da área, já que diversos são os benefícios que essa ferramenta proporciona. Porém, sua capacidade de emular uma resposta humana traz janelas perigosas que os cibercriminosos estão utilizando para fazer crimes de engenharia social. Após a popularização exponencial do ChatGPT, não há mais como parar a inteligência artificial e, com isso, precisamos aprender a conviver com ela, fazendo uso de suas vantagens.

Para falarmos do futuro da IA no Brasil, é preciso batalhar por uma regulamentação. Ferramentas como o ChatGPT trazem imensas possibilidades de inovação, que simplificam e democratizam o conhecimento, mas sem a regulamentação necessária, a privacidade e a segurança dos dados dos usuários correm riscos. Muitas vezes, crimes cibernéticos são motivados por fator financeiro, com chances de roubo de grande volume de dinheiro, utilizando a tecnologia para emular uma resposta humana mais fidedigna, produzindo e-mails de pishing cada vez mais sofisticados e difíceis de serem identificados.

Nesse sentido, os provedores de grandes modelos de linguagem (na sigla em inglês, LLM) e IA generativa, devem insistir em criar métodos e bloqueios para que suas tecnologias não sejam utilizadas para atos criminosos.

Porém, enquanto a regulamentação não chega, podemos fazer nossa parte, e aqui a educação e conscientização de segurança digital são fundamentais. Não importa quanto a IA possa ser utilizada por criminosos, sempre há indícios suspeitos que só o ser humano pode reconhecer, como uma solicitação estranha com alto senso de urgência ou pedido de dados que não são comuns. Assim, instruir os colaboradores sobre cibersegurança sobre como identificar esses ataques e sobre a importância de aplicar o conceito de Zero Trust ainda é a melhor maneira de se defender.

Outro ponto que precisa ser discutido pelos CISOs e outros decisores é o uso do ChatGPT, a mais famosa IA generativa, dentro de suas empresas. Recentemente grandes empresas “Big Tech” restringiram ou proibiram o uso da ferramenta por temerem vazamento de dados. A preocupação surgiu após o uso por parte de colaboradores para conferir erros de desenvolvimento de apps, pedido de redação de documentos com assuntos confidenciais, entre outros inúmeros usos que podem comprometer o sigilo de empresas e pessoas.

No ponto do uso de IA, vale lembrar as palavras recentes de Tim Cook, CEO da Apple, que pediu cautela e colocou que “Há uma série de questões que precisam ser resolvidas em vários lugares diferentes, mas o potencial é certamente muito interessante”. A Apple já utiliza um outro tipo de IA, NLP (sigla em inglês para Processamento de Linguagem Natural), em sua assistente de voz Siri, apenas para mencionar um exemplo nas Big Techs, já que Microsoft, Google e outras possuem sistemas avançados de IA.

Apesar do lado negativo, precisamos sempre reforçar que a inteligência artificial, como qualquer outra tecnologia, está aqui para nos ajudar. Ferramentas para defesa já estão em uso há tempos utilizando Machine Learning e IA. O auxílio técnico é de grande importância para ganhar tempo e reduzir custos em um ambiente tão disputado como o da cibersegurança. Diversas são as possibilidades em que IA auxilia os programadores e profissionais de TI, tai como:

• Bug Hunt;
• Identificação de vulnerabilidades em sistemas;
• Análise de logs;
• Depuração de códigos;
• Produção de respostas a incidentes.

Dito isso, reafirmo que a IA generativa é um caminho sem volta para a sociedade e não devemos paralisar seu uso, mas é necessário cautela. A inteligência artificial é recente e só exploramos uma pequena parcela de seu potencial, bani-la completamente seria um grande retrocesso para a comunidade tecnológica e à sociedade como um todo.

Fonte: Canaltech (02/06/2023)