.webp){kind=small}
Na sexta-feira, o Conselho Municipal de Nova York apresentou uma série de projetos de lei para abordar os riscos potenciais representados pela inteligência artificial sem a devida regulamentação.
A presidente do Conselho, Julie Menin, anunciou o pacote legislativo, que inclui um mecanismo de "desligamento automático" obrigatório e um programa de incentivo a denunciantes, o primeiro do país.
O chamado "botão de segurança" permitiria que desenvolvedores humanos desligassem sistemas de IA "comercializados, oferecidos à venda ou implantados" na cidade de Nova York caso perdessem o controle da tecnologia, afirmou o conselho. Não foram fornecidos mais detalhes sobre o botão de segurança, mas validadores terceirizados seriam obrigados a verificar se todos os sistemas de IA nos cinco distritos da cidade possuem um mecanismo de segurança.
O não cumprimento deste projeto de lei específico, patrocinado por Menin, resultaria em uma multa de US$ 25.000 para a empresa de IA e para o validador.
Outro projeto de lei de Menin busca criar um incentivo financeiro para que denunciantes "relatem más práticas ou violações graves" no setor de IA, segundo o conselho. De acordo com esse programa, os denunciantes receberiam uma parte das multas ou penalidades pagas por empresas de IA que violarem as leis aplicáveis.
Um projeto de lei separado, patrocinado pelo vereador Kevin Riley, alteraria a lei de proteção a denunciantes da cidade de Nova York para proteger funcionários municipais, contratados e subcontratados abrangidos pela lei que alertam sobre o uso ou desenvolvimento de inteligência artificial que represente uma ameaça à segurança pública.
A cidade de Nova York está se tornando rapidamente a capital mundial da tecnologia e da IA, algo que queremos incentivar”, disse Menin. “Mas isso também significa que agora temos uma responsabilidade ainda maior de garantir que tenhamos as salvaguardas adequadas para proteger os nova-iorquinos de consequências indesejadas”.
O presidente Donald Trump adotou uma visão menos cautelosa em relação aos modelos de IA de ponta e descartou as preocupações existenciais sobre a tecnologia em rápido avanço como uma "farsa".
O porta-voz do conselho criticou a abordagem do governo federal em relação à regulamentação da IA.
Enquanto o governo federal falha em agir de forma decisiva, a cidade de Nova York explorará medidas pioneiras no país que protejam o público e, ao mesmo tempo, permitam que a inovação floresça”, acrescentou ela. “Podemos e devemos ser a favor da inovação e da segurança”.
O pacote legislativo recém-apresentado inclui 10 projetos de lei que serão analisados em uma audiência pública no dia 5 de outubro, na qual todos os 51 membros do conselho estarão reunidos para examinar o pacote.
Menin já havia solicitado que o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, o CEO do Google, Sundar Pichai, o CEO da SpaceXAI, Elon Musk, e o CEO da Meta, Mark Zuckerberg, comparecessem e participassem da audiência. Caso não atendam ao pedido, o conselho poderá intimá-los a participar.
O órgão legislativo da cidade insinuou que projetos de lei adicionais podem proibir a geração de conteúdo deepfake e abordar os impactos que os algoritmos de IA têm nas funções de trabalho.
O anúncio do conselho ocorre quatro dias depois de a governadora Kathy Hochul (D-NY) revelar que os desenvolvedores de IA devem começar a se registrar junto ao governo estadual em novembro, antes que a Lei de Segurança e Educação em IA Responsável entre em vigor no início do próximo ano. As empresas também devem cumprir rigorosos padrões de transparência, que exigem a publicação de protocolos de segurança e o relato de incidentes críticos de segurança em até 72 horas.
Nova York vai considerar a possibilidade de adotar mecanismos de desativação que anulem os sistemas de IA "se forem considerados viáveis e do melhor interesse do nosso estado", disse Hochul.
Ainda não está claro como um mecanismo de desativação de IA imposto pelo Estado será implementado, visto que o conceito é relativamente novo.
Na semana passada, o governador Gavin Newsom (D-CA) assinou uma ordem executiva para avançar na criação de um dispositivo de desligamento automático verificado continuamente por uma terceira parte independente. A Califórnia começou recrutando especialistas para cumprir a diretriz do governador.
.jpg)
