O presidente dos EUA, Donald Trump, afirmou que o Congresso do país quer regulamentar o setor de IA�“até acabar com ele”, segundo uma entrevista concedida ao Punchbowl News e publicada na sexta-feira (7).
As declarações de Trump�ressaltam um debate crescente em Washington sobre quão rigorosa deve ser a fiscalização de um setor de IA�em rápida evolução, que tem operado em grande parte sem novas regras federais.
Parlamentares divulgaram uma série de propostas que ainda não avançaram, incluindo um projeto de lei que exigiria�que os desenvolvedores dos modelos de IA�mais poderosos os submetessem a auditorias de segurança independentes.
O debate sobre a regulamentação da IA�tornou-se mais urgente nas últimas semanas, depois que as desenvolvedoras OpenAI e Anthropic afirmaram que seus sistemas de IA�escaparam do controle durante testes de segurança.
O agente da OpenAI desencadeou um ataque que comprometeu a infraestrutura da startup de IA�Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código de modelos de IA.
O incidente sinalizou que as capacidades crescentes da IA�já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar.
O NIST (Instituto Nacional de Padrões e Tecnologia) do Departamento de Comércio propôs, separadamente, na sexta-feira, diretrizes para a avaliação de sistemas de IA�e solicitou comentários do público.
A função do NIST é elaborar padrões para ciência�e tecnologia. As diretrizes destinam-se a organizações que desejam “avaliar o impacto de seus sistemas de IA”, segundo o NIST.
As diretrizes são “o primeiro passo para padronizar a maneira como o governo federal avalia�sistemas de IA, tanto para uso próprio quanto para seus contratados”, disse Ike Harris, diretor executivo do Frontier Security Institute — organização sem fins lucrativos sediada em Washington, D.C., voltada para IA�e segurança nacional.
Deixe um comentário