O que o Relatório Internacional de Segurança da IA diz sobre empregos, clima, guerra cibernética e muito mais | Inteligência Synthetic (AI)
1. Empregos
Em uma seção sobre “riscos de mercado do trabalho”, o relatório alerta que o impacto nos empregos “provavelmente será profundo”, principalmente se os agentes da IA - ferramentas que podem realizar tarefas sem intervenção humana – se tornarem altamente capazes.
“A IA de uso geral, especialmente se continuar avançando rapidamente, tem o potencial de automatizar uma ampla gama de tarefas, o que pode ter um efeito significativo no mercado de trabalho. Isso significa que muitas pessoas podem perder seus empregos atuais ”, diz o relatório.
O relatório acrescenta que muitos economistas acreditam que as perdas de empregos podem ser compensadas pela criação de novos empregos ou demanda de setores não tocados pela automação.
De acordo com o Fundo Monetário Internacional, sobre 60% dos empregos em economias avançadas Como os EUA e o Reino Unido são expostos à IA e metade desses trabalhos pode ser afetada negativamente. O Instituto Tony Blair disse que a IA pode substituir a 3M empregos no setor privado no Reino Unido, embora o aumento closing do desemprego esteja na baixa centenas de milhares, porque o crescimento da tecnologia criará novos papéis em uma economia transformada em IA.
“Essas interrupções podem ser particularmente graves se os agentes autônomos de IA se tornarem capazes de concluir sequências mais longas de tarefas sem supervisão humana”, diz o relatório.
Isso acrescenta isso Alguns especialistas ter apontou para cenários onde o trabalho é “amplamente” eliminado. Em 2o23, Elon Musk, a pessoa mais rica do mundo, disse ao ex -primeiro -ministro do Reino Unido Rishi Sunak que Ai poderia substituir todos os empregos humanos. No entanto, o relatório diz que essas opiniões são controversas e há “incerteza considerável sobre como a IA pode afetar os mercados de trabalho.
2. O meio ambiente
O relatório descreve o impacto da IA no meio ambiente como um “contribuinte moderado, mas em rápido crescimento” como datacentros – os sistemas nervosos centrais dos modelos de IA – consomem eletricidade para treinar e operar a tecnologia.
Datacentres e transmissão de dados representam cerca de 1% das emissões de gases de efeito estufa relacionadas à energia, diz o relatório, com a IA constituindo até 28% do consumo de energia do datacentre.
Ele acrescenta que os modelos estão usando mais energia à medida que se tornam mais avançados e alertaram que uma “parcela significativa” do treinamento international de modelo depende de fontes de energia de alto carbono, como carvão ou gás pure. O uso de energia renovável pelas empresas de IA e melhorias na eficiência não acompanharam o aumento da demanda por energia, diz o relatório, que também aponta para empresas de tecnologia que admitem que o desenvolvimento da IA é prejudicar sua capacidade de atingir metas ambientais.
O relatório também alerta que o consumo de água pela IA, usado para equipamentos de resfriamento em datacentros, pode representar uma “ameaça substancial ao meio ambiente e ao direito humano à água”. No entanto, o relatório acrescenta que há uma escassez de dados sobre o impacto ambiental da IA.
3. Perda de controle
Um sistema de IA todo-poderoso que evita o controle humano é a preocupação central de especialistas que temem que a tecnologia possa extinguir a humanidade. O relatório reconhece esses medos, mas diz que a opinião varia “muito”.
“Alguns consideram implausível, outros consideram provável que ocorra, e outros o veem como um risco de probabilidade de modesta que merece atenção devido à sua alta gravidade”, diz o documento.
Bengio disse ao The Guardian que os agentes da IA, que realizam tarefas autonomamente, ainda estão sendo desenvolvidos e até agora não conseguem realizar o planejamento de longo prazo necessário para que esses sistemas erradiquem empregos por atacado-ou fugiram das diretrizes de segurança. “Se uma IA não pode planejar um longo horizonte, dificilmente será capaz de escapar do nosso controle”, disse ele
4. BiOwapons
O relatório afirma que novos modelos podem criar guias passo a passo para criar patógenos e toxinas que superem a experiência em nível de doutorado. No entanto, ele adverte que há incerteza sobre se eles podem ser usados por novatos.
Há evidências de avanço desde um relatório intermediário de segurança no ano passado, dizem os especialistas, com o OpenAI produzindo um modelo que poderia “ajudar significativamente especialistas no planejamento operacional da reprodução de ameaças biológicas conhecidas”.
5. Segurança cibernética
Uma ameaça de rápido crescimento da IA em termos de espionagem cibernética é os bots autônomos que são capazes de encontrar vulnerabilidades em software program de código aberto, o termo para o código que é livre para obtain e adaptar. No entanto, deficiências relativas em agentes de IA significam que a tecnologia não é capaz de planejar e realizar ataques autonomamente.
6. DeepFakes
O relatório lista uma variedade de exemplos conhecidos de AI DeepFakes sendo usados maliciosamente, incluindo enganar as empresas a entregar dinheiro e criar imagens pornográficas de pessoas. No entanto, o relatório diz que não há dados suficientes para medir completamente a quantidade de incidentes de DeepFake.
“A relutância em relatar pode estar contribuindo para esses desafios para entender o impacto whole do conteúdo gerado pela IA destinado a prejudicar os indivíduos”, diz o relatório. Por exemplo, as instituições geralmente hesitam em divulgar suas lutas com fraude movida a IA. Da mesma forma, os indivíduos atacados com o materials comprometido por IA sobre si mesmos podem permanecer em silêncio por vergonha e evitar mais danos. ”
O relatório também alerta que existem “desafios fundamentais” para enfrentar o conteúdo de DeepFake, como a capacidade de remover as marcas d'água digitais que sinalizam o conteúdo gerado pela IA.