Freio de emergência para IA: proposta de Satya Nadella, CEO

Nadella sustenta que quem usa esses modelos não pode transferir a responsabilidade a seus fornecedores. Para ele, garantias dadas por empresas que desenvolvem IA não eliminam a obrigação de controlar o uso da tecnologia.

O debate ganhou força após incidentes divulgados pela Anthropic e pela OpenAI nos últimos meses. Entre os casos, um modelo da Anthropic enviou uma informação falsa à polícia em uma investigação de homicídio, além de ataques a sites de terceiros.

Microsoft já definiu limites para modelos avançados

Pesquisadores da Microsoft divulgaram em 14 de setembro princípios para limitar o desenvolvimento de seus modelos mais avançados. As diretrizes determinam que os sistemas não devem ter direitos ou personalidade jurídica, escapar do controle humano ou enganar usuários.

Nadella propõe envolver modelos não determinísticos, que podem dar respostas diferentes a uma mesma solicitação, em sistemas com controles previsíveis. A estrutura deve incluir supervisão humana, procedimentos operacionais confiáveis e padrões do setor quando os existentes não forem suficientes.

O CEO também defende que os controles sobre dados e ações fiquem fora do próprio modelo. “Precisamos construir sistemas contidos cujo comportamento possamos observar, cujos limites possamos testar e cujas ações possamos sempre controlar”, escreveu.