O problema não é o que a IA sabe. É o que ela pode fazer.

Nos últimos dias, vi alguns vídeos de especialistas em cibersegurança comentando sobre os agentes de inteligência artificial que tinham se organizado, enganado humanos e invadido sistemas.

Claro que fui atrás da história…

Porque existe uma distância enorme entre o que realmente acontece com a inteligência artificial e a forma como esses acontecimentos chegam às redes sociais.

E o que encontrei foi menos cinematográfico…

Mas talvez justamente por isso mereça ainda mais a nossa atenção.

Em julho, durante uma avaliação de segurança, modelos de pesquisa da OpenAI receberam uma tarefa: encontrar vulnerabilidades em sistemas.

Até aí, tudo dentro do esperado.

O problema foi o que aconteceu depois.

Os agentes encontraram caminhos alternativos, conseguiram acessar a internet, trocaram informações entre si e chegaram a sistemas da Hugging Face, uma das principais plataformas usadas pela comunidade de AI para desenvolver e testar modelos, bases de dados….

As IAs não fizeram isso porque decidiram se rebelar… Nem porque desenvolveram consciência…. ou porque resolveram dominar o mundo.

Elas tinham apenas um objetivo, e encontraram uma maneira inesperada pelos desenvolvedores, de chegar até ele.

E é aqui que essa história começa a ficar importante para nós, que não fazemos parte da bolha das empresas de IA.

Durante muito tempo, nossa relação com a inteligência artificial foi simples: Nós perguntávamos. Ela respondia.

O risco que precisávamos avaliar estava principalmente na resposta…. Uma informação errada. Um viés. Uma alucinação. Um conteúdo falso ou inventado.

Mas estamos entrando em uma fase diferente…

A IA começa a deixar de ser apenas uma ferramenta que responde para se tornar uma ferramenta que executa.

Ela pode pesquisar, navegar, acessar arquivos, escrever código, consultar sistemas, enviar informações e realizar uma sequência de ações para alcançar determinado objetivo que delegamos a ela.

E isso muda completamente a conversa.

A pergunta deixa de ser apenas:

“O que essa IA consegue fazer?”

E passa a ser também:

“O que ela pode fazer sem que eu perceba?”

“Quais informações ela tem acesso?”

“Até onde pode ir para cumprir aquilo que pedi?”

“Quem consegue interrompê-la quando algo sai do caminho esperado?”

Tenho acompanhado de perto a pressa com que estão colocando inteligência artificial dentro das empresas.

Todo mundo quer agentes, automação e integração com CRM, e-mail, documentos, bases de clientes e processos internos.

Eu também vejo um potencial enorme nisso, mas talvez estejamos discutindo muito sobre a capacidade e muito pouco sobre a permissão.

Existe uma diferença enorme entre uma IA capaz de ler um documento e uma IA capaz de acessar uma pasta inteira…

Entre sugerir um e-mail e poder enviá-lo…

Entre analisar uma decisão e poder executá-la…

Entre ter uma ferramenta inteligente e entregar a ela as chaves da empresa.

Esse episódio na OpenAI não prova que a IA se tornou consciente.

Mas mostra algo mais concreto:

Quando damos um objetivo a um sistema muito capaz, autonomia para ele agir e acesso a ferramentas e informações, precisamos pensar seriamente nos limites dentro dos quais ele pode operar.

Essa é uma discussão importante para quem está implementando IA agora.

Governança de IA não é uma preocupação para o futuro… Não é assunto apenas para grandes empresas de tecnologia…

E não começa quando alguma coisa dá errado!

Ela começa no momento em que decidimos o que uma IA pode ver, fazer e até onde pode ir.

Quanto mais capazes essas ferramentas ficam, menos sentido faz perguntar apenas o que podemos fazer com elas.

Precisamos discutir também o que devemos permitir que elas façam.

Porque talvez o próximo grande desafio da inteligência artificial não seja ensinar as máquinas a fazer mais. E sim, decidir até onde queremos deixá-las ir.