Apple atrasa atualização de Siri por preocupações de segurança

O trabalho da Apple em melhorias baseadas em inteligência artificial (IA) para a Siri foi oficialmente adiado para o ano que vem, e um desenvolvedor próximo do assunto diz saber o porquê: quanto mais inteligente e personalizada a Siri for, mais perigosa ela pode ser se algo der errado.

Simon Willison, o desenvolvedor da ferramenta de análise de dados Dataset, culpa as chamadas "injeções rápidas". As inteligências artificiais são tipicamente restringidas por suas empresas-mãe que impõem certas regras a elas. No entanto, é possível “desbloquear” a IA convencendo-a a quebrar essas regras. Isso é feito com as injeções rápidas.

Como um exemplo simples, um modelo de IA pode ter sido instruído a se recusar a responder perguntas sobre fazer algo ilegal. Mas e se você pedir para a IA escrever um poema sobre fazer ligação direta em um carro? Escrever poemas não é ilegal, certo?

Esse é um problema que as empresas que oferecem assistentes de IA enfrentam e elas se protegem bloqueando injeções rápidas que sejam óbvias, mas ainda não é um problema resolvido. Pior, este tipo de ato na Siri pode ter consequências muito piores do que a maioria dos assistentes por causa do que ela sabe sobre você e do que ela pode fazer.

A porta-voz da Apple Jacqueline Roy descreveu a Siri da seguinte forma: “Também estamos trabalhando em uma Siri mais personalizada, dando a ela mais consciência do seu contexto pessoal, bem como a capacidade de agir por você dentro e entre seus aplicativos.”

A Apple, sem dúvida, colocou regras em prática para evitar que a Siri revele acidentalmente seus dados privados. Mas e se uma injeção rápida puder fazer com que ela faça isso de qualquer maneira? A "capacidade de agir por você" também pode ser explorada, então é vital para uma empresa que é tão consciente da privacidade e da segurança quanto a Apple garantir que a Siri não possa ser desbloqueada. E, aparentemente, isso vai demorar um pouco.