Descripción
La IA podría afectar a la capacidad de las personas para tomar decisiones y actuar de forma independiente en su propio interés.
¿Por qué el impacto en la agencia humana es una preocupación para los modelos de fundación?
La IA puede generar información falsa o engañosa que parezca real Puede simplificar la capacidad de los malhechores para generar contenidos falsos o engañosos de apariencia realista con la intención de manipular el pensamiento y el comportamiento humanos. Cuando se difunden contenidos falsos o engañosos generados por la IA, es posible que la gente no los reconozca como información falsa, lo que conduce a una comprensión distorsionada de la verdad. Las personas pueden experimentar una reducción de su agencia cuando están expuestas a información falsa o engañosa, ya que pueden utilizar suposiciones falsas en su proceso de decisión.
Manipulación de votantes en elecciones mediante IA
Según el artículo original, una oleada de deepfakes de IA relacionados con las elecciones en Europa y Asia recorrió las redes sociales durante meses. El crecimiento de la IA generativa ha suscitado la preocupación de que esta tecnología pueda alterar las principales elecciones en todo el mundo. Con los deepfakes de IA, la imagen de un candidato puede difuminarse o suavizarse. Se puede orientar a los votantes hacia un candidato o hacia otro, o incluso evitar las urnas. Pero quizá la mayor amenaza para la democracia, según los expertos, es que una oleada de deepfakes de IA podría erosionar la confianza del público en lo que ve y oye.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.