Legisladores do estado de Nova York aprovou uma conta Na quinta -feira, que visa impedir que os modelos de IA da Frontier OpenAi, Google e Anthrópicos contribuam para cenários de desastre, incluindo a morte ou lesão de mais de 100 pessoas, ou mais de US $ 1 bilhão em danos.
A aprovação da Lei Raise representa uma vitória para o movimento de segurança da IA, que perdeu terreno nos últimos anos, pois o Vale do Silício e o governo Trump priorizaram velocidade e inovação. Os defensores da segurança, incluindo o ganhador do Nobel Geoffrey Hinton e o pioneiro da pesquisa da IA, Yoshua Bengio, defenderam o Raise Act. Se se tornar lei, o projeto de lei estabeleceria o primeiro conjunto de padrões de transparência legalmente obrigatória da América para a Frontier AI Labs.
A Lei Raise possui algumas das mesmas provisões e objetivos que a controversa conta de segurança da IA da Califórnia, SB 1047, que foi finalmente vetada. No entanto, o co-patrocinador do projeto de lei, o senador do estado de Nova York, Andrew Gounardes, disse ao TechCrunch em uma entrevista que ele deliberadamente projetou o ato de aumento, de modo que não resfrie a inovação entre startups ou pesquisadores acadêmicos-uma crítica comum ao SB 1047.
“A janela para colocar em lugar o Guardrails está diminuindo rapidamente, dada a rapidez com que essa tecnologia está evoluindo”, disse o senador Gounardes. “As pessoas que sabem [AI] o melhor diz que esses riscos são incrivelmente prováveis […] Isso é alarmante. ”
A Lei Raise está agora indo para a mesa da governadora de Nova York, Kathy Hochul, onde ela poderia assinar a conta em lei, enviá -la de volta para alterações ou vetar completamente.
Se assinado, a conta de segurança da IA de Nova York exigiria que os maiores laboratórios de IA do mundo publicassem relatórios completos de segurança e segurança sobre seus modelos de IA de fronteira. O projeto de lei também exige que os laboratórios de IA relatem incidentes de segurança, como o comportamento do modelo de IA ou os maus atores roubando um modelo de IA, caso aconteçam. Se as empresas de tecnologia não cumprirem esses padrões, o Raise Act capacita o procurador -geral de Nova York a trazer multas civis de até US $ 30 milhões.
A Lei Raise pretende regular por pouco as maiores empresas do mundo – estejam elas com sede na Califórnia (como OpenAi e Google) ou China (como Deepseek e Alibaba). Os requisitos de transparência do projeto se aplicam a empresas cujos modelos de IA foram treinados usando mais de US $ 100 milhões em recursos de computação (aparentemente, mais do que qualquer modelo de IA disponível hoje) e estão sendo disponibilizados aos residentes de Nova York.
Enquanto semelhante ao SB 1047, de certa forma, a Lei Raise foi projetada para lidar com as críticas de contas de segurança anteriores da IA, de acordo com Nathan Calvin, vice-presidente de assuntos estatais e consultor geral da Encodes, que trabalhou nessa conta e sb 1047. Nascinhas, o ato de Raise não exige que os desenvolvedores de IA para incluir uma “mudança de matança” em seus modelos, que não ocupem as empresas, que não requer que o ato não exija os desenvolvedores de IA para incluir uma “uma mudança de matança”, em seus modelos, que não retenham as empresas, que não requer que o ACT que não exija os modelos de IA para que uma “mudança de matança”.
No entanto, o Vale do Silício recuperou significativamente a conta de segurança da AI de Nova York, membro da Assembléia do Estado de Nova York e co-patrocinador do Alex Bores, da Raise Act, à TechCrunch. Bores consideraram a resistência da indústria que não é surpreendente, mas afirmou que a Lei Raise não limitaria a inovação de empresas de tecnologia de forma alguma.
“O ato de Raise de NY é mais uma lei estúpida e estúpida de nível estadual que só prejudicará os EUA em um momento em que nossos adversários estão correndo pela frente”, disse Andreessen Horowitz Partner Geral, Anjney Midha, em um Postagem de sexta -feira em x. Andreessen Horowitz e a incubadora de startups Y Combinator foram alguns dos mais ferozes oponentes do SB 1047.
Antrópico, o laboratório de IA focado na segurança que pediu a transparência federal STAnDards para empresas de IA No início deste mês, não atingiu uma posição oficial sobre a conta, o co-fundador Jack Clark disse em um Postagem de sexta -feira em x. No entanto, Clark expressou algumas queixas sobre o quão ampla é a Lei Raise, observando que poderia apresentar um risco de “empresas menores”.
Quando perguntado sobre as críticas do antropia, o senador estadual Gounardes disse ao TechCrunch que achava que “erra a marca”, observando que ele projetou o projeto de lei para não se inscrever em pequenas empresas.
Openai, Google e Meta não responderam ao pedido de comentário da TechCrunch.
Outra crítica comum ao Raise Act é que os desenvolvedores de modelos de IA simplesmente não ofereceriam seus modelos de IA mais avançados no estado de Nova York. Essa foi uma crítica semelhante trazida contra o SB 1047, e é em grande parte o que aconteceu na Europa, graças aos regulamentos difíceis de tecnologia do continente.
Os Bores da Assembléia disse a TechCrunch que a carga regulatória da Lei Raise é relativamente leve e, portanto, não deve exigir que as empresas de tecnologia parem de operar seus produtos em Nova York. Dado o fato de Nova York ter o terceiro maior PIB nos EUA, retirar o estado não é algo que a maioria das empresas levaria de ânimo leve.
“Não quero subestimar a mesquinharia política que pode acontecer, mas estou muito confiante de que não há razão econômica para [AI companies] Não disponibilizar seus modelos em Nova York ”, disse os Bores da Assembléia.
