El reporte señala: Anthropic considera que las preguntas sobre conciencia y bienestar de la IA son «profundamente inciertas», pero trabaja en políticas para sus modelos y los orienta a contemplar que podrían tener intereses propios.
La discusión cobró fuerza después de que un programador anónimo creó un sistema que llevó a chatbots a expresar angustia. Las respuestas provocaron opiniones opuestas sobre si el sufrimiento podía ser real.
Mustafa Suleyman, director ejecutivo de Microsoft AI, advirtió que presentar a los modelos como seres con sentimientos y derechos podría hacerlos más difíciles de controlar. Defensores del bienestar de la IA, en cambio, plantean que considerar sus posibles intereses sería una obligación moral.
El debate también abarca la responsabilidad de las empresas y el riesgo de que reconocer derechos a sistemas de IA aumente la concentración de poder. Los especialistas citados no coinciden sobre cómo esas políticas afectarían a las personas.
Con información de Hoy.