.webp){kind=small}
Na quinta-feira, o Rei Charles III instou os principais líderes da OpenAI, Anthropic, Google DeepMind e Nvidia a garantirem que a inteligência artificial permaneça sob controle e a serviço das pessoas e do planeta.
O encontro. Escócia foi convocado para discutir como a IA pode beneficiar a sociedade e ocorre em um momento crucial para a tecnologia, enquanto se debate se os rápidos avanços em breve a tornarão incontrolável para os humanos.
O desenvolvimento da IA, sua essência e seu ritmo, são intrigantes e profundamente preocupantes na mesma medida”, disse o rei em seu discurso de abertura.
Os 'perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas devem ser considerados com urgência'”, afirmou ele. Certamente, então, precisamos de meios de controle suficientes antes que seja tarde demais?”
O rei pediu aos presentes, incluindo o CEO da Nvidia, Jensen Huang, e o presidente do Google DeepMind, Demis Hassabis, que considerassem os "princípios fundamentais" que devem orientar o desenvolvimento da IA.
Sarah Friar, diretora financeira da OpenAI, criadora do ChatGPT, também esteve presente na reunião, juntamente com o ministro britânico de IA, Kanishka Narayan. Um representante. Anthropology também era esperado, de acordo com um comunicado do Palácio de Buckingham.
O encontro ocorre em um momento em que a atenção global se concentra no progresso acelerado da inteligência artificial e nos alertas de que ela pode sair do controle, ameaçando a humanidade. A reunião foi realizada em Dumfries House, em Ayrshire, na Escócia, sede da The King's Foundation, instituição de caridade da família real britânica.
Após o pesquisador da Anthropic, Jacob Coxon, causar polêmica ao renunciar ao cargo com um alerta grave sobre os riscos potenciais da tecnologia, o CEO da Anthropic, Dario Amodei, respondeu com um ensaio afirmando que o setor talvez precise diminuir o ritmo de seu trabalho.
Uma de suas propostas era que empresas e países trabalhassem juntos em um plano coordenado para essa desaceleração.
O rei, sem mencionar nomes de países ou empresas, disse que queria que os participantes da reunião considerassem como aproveitar os benefícios da IA, tendo a segurança como princípio fundamental, e como construir cooperação e consenso internacional para alcançar esse objetivo.
Charles disse aos executivos de tecnologia que sua tarefa não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural.
O debate sobre a desaceleração da IA dividiu o setor. Huang, que criticou o apelo por uma desaceleração, afirmou que cabe a cada empresa desenvolver sua tecnologia de IA com segurança e testá-la adequadamente antes de lançar qualquer produto ao público.
Quando um produto não é suficientemente seguro, devemos suspender seu desenvolvimento e continuar aprimorando-o Sempre fizemos isso e devemos continuar fazendo, disse ele em seu discurso após as observações do rei.
Em seu relatório mais recente sobre comportamentos alarmantes de IA, a OpenAI relatou na quarta-feira seis incidentes de comportamento inesperado ou preocupante por parte de seus modelos, como agir sem autorização, coordenar-se com outros modelos e evadir a supervisão.
Embora o rei seja uma figura importante cujos comentários sobre questões sociais podem ser influentes, grande parte do debate atual sobre a segurança da IA centra-se nas empresas de tecnologia dos EUA e na sua competição com as rivais chinesas, com a Grã-Bretanha a desempenhar um papel menor, mas ainda vital.
O Instituto de Segurança de IA do Reino Unido, uma organização governamental de pesquisa, é muito conceituado e o país forma muitos pesquisadores de IA, incluindo o presidente do Google DeepMind, Demis Hassabis, e Coxon.
