06/06/2024
A necessidade de regulamentação de modelos baseados em IA
By Arnaldo Titos | AI researcher & Computer student at UEM | accredited course tester at Coursera and DeepLearning.AI
A inovação em inteligência artificial está transformando o mundo, mas com grandes avanços vêm grandes responsabilidades. Na vanguarda desse debate está o estado da Califórnia, berço de muitas dessas inovações. O Projeto de Lei SB-1047 está lançando as bases para regulamentações cruciais sobre o desenvolvimento e uso de modelos de IA.
Uma cláusula particular, conhecida como "capacidade perigosa", está gerando discussões acaloradas. Esta cláusula visa responsabilizar os desenvolvedores por danos superiores a 500 milhões de dólares, caso seus modelos sejam usados de maneira prejudicial. Este movimento é uma tentativa de garantir a segurança e a ética na IA, evitando a criação de armas letais baseadas em algoritmos.
Contudo, surgem vozes críticas, como a de Andrew, que argumentam que garantir essa segurança é uma tarefa praticamente impossível. Se aprovada, a lei poderia sufocar o desenvolvimento de modelos de IA, especialmente os de código aberto.
Nós os pesquisadoes de IA defendemos que os reguladores devem regular as aplicações em vez da tecnologia. Por tecnologia refiro-me a ferramentas que podem ser aplicadas de muitas maneiras para resolver diversos problemas, ao passo que as aplicações são implementações específicas de tecnologias projetadas para atender às necessidades de clientes específicos. Por exemplo, um motor elétrico é uma tecnologia. Quando o colocamos em um liquidificador, em um veículo elétrico, em uma máquina de diálise ou em uma bomba guiada, ele se torna uma aplicação.
Imagine se passássemos leis dizendo que, se alguém usasse um motor de forma prejudicial, o fabricante do motor seria responsável. Os fabricantes de motores iriam ou fechar ou fabricar motores tão pequenos que seriam inúteis para a maioria das aplicações.
Se passarmos uma lei assim, é claro, podemos impedir as pessoas de construir bombas guiadas, mas também perderíamos liquidificadores, veículos elétricos e máquinas de diálise.
Em contraste, se olharmos para aplicações específicas, como liquidificadores, podemos avaliar os riscos de maneira mais racional e descobrir como garantir que sejam seguros, e até mesmo proibir classes de aplicações, como certos tipos de munições.
A segurança é uma propriedade das aplicações, não uma propriedade das tecnologias (ou modelos), como Arvind Narayanan e Sayash Kapoor apontaam. Se um liquidificador é seguro, isso não pode ser determinado examinando o motor elétrico. Um argumento semelhante se aplica à IA.
Portanto, assim como ninguém sabe como construir um motor que não possa ser usado para causar dano, ninguém descobriu ainda como garantir que um modelo de IA não possa ser adaptado para usos prejudiciais.
No caso de modelos de código aberto, não há defesa conhecida para ajustar a remoção do alinhamento RLHF. E o trabalho de jailbreak mostrou que até mesmo modelos fechados e proprietários que foram devidamente alinhados podem ser atacados de maneiras que os façam fornecer respostas prejudiciais.
T, AI researcher
