.webp){kind=small}
O CEO da Microsoft, Satya Nadella, é o mais recente executivo de tecnologia a oferecer reflexões detalhadas sobre como a segurança da IA pode ser aprimorada.
Em uma postagem de sábado de manhã no X, Nadella escreveu que é hora de "dar um passo atrás e avaliar a arquitetura de confiança" da IA.
Não podemos tratar a Superinteligência como um conjunto de caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações”, escreveu Nadella, usando o termo preferido da administração Trump para IA.
Conforme descrito por Nadella, essa abordagem "significa separar o modelo da estrutura que orquestra seu funcionamento", bem como "externalizar controles e salvaguardas".
Ele também defendeu que "toda ação significativa do modelo" seja documentada com "evidências invioláveis e legíveis por humanos" e que os sistemas exijam que "uma pessoa autorizada" sempre tenha a capacidade de "pausar ou interromper um modelo no meio de uma tarefa".
Devemos partir do princípio de que um modelo está comprometido e contê-lo desde o início”, disse ele. “Pense nisso como um freio de emergência”.
Os comentários de Nadella surgem em um momento em que as principais empresas de IA reconhecem cada vez mais incidentes em que parecem ter perdido o controle de seus modelos, e após o CEO da Anthropic, Dario Amodei, ter publicado um plano para um desenvolvimento de IA mais cauteloso.
.jpg)
.webp)
.jpeg)
.webp)
