Portugués 
Inglés 
Español 
3 min de lectura 
0 comentarios 
Actualización de ChatGPT Incluye Notificaciones para Recordar al Usuario Que Haga Pausas, Evitar Consejos Directos Sobre Decisiones Personales y Detectar Señales de Sufrimiento Emocional
La OpenAI anunció este lunes (5) una nueva actualización para el ChatGPT que traerá alertas de pausa durante interacciones prolongadas con el chatbot. La medida, según la empresa, busca promover el uso saludable de la herramienta, evitando patrones de comportamiento compulsivo similares a los observados en redes sociales.
Si el usuario permanece mucho tiempo conversando con el ChatGPT, aparecerá una ventana emergente preguntando: “¿Es un buen momento para hacer una pausa?”. El cambio busca combatir el uso excesivo y los posibles efectos negativos sobre el bienestar emocional de los usuarios.
La iniciativa surge en un momento de creciente preocupación sobre el uso de inteligencia artificial como sustituto de interacciones humanas reales, con relatos de personas que empezaron a usar el ChatGPT como terapeuta, consejero o amigo.
-
La industria multimillonaria creada por la inteligencia artificial ya permite conversar por video con parientes muertos usando avatares digitales que recrean voz, rostro y memoria en una nueva frontera de la tecnología.
-
La inteligencia artificial china que resolvió sola en 80 horas un problema matemático abierto hace 12 años por el estadounidense Dan Anderson — y probó su propio resultado
-
Inteligencia artificial para robots con manos inspiradas en humanos avanza y amplía la capacidad de aprendizaje automático en la nueva generación de la robótica.
-
El hombre más rico del mundo dice que ahorrar dinero para la jubilación podría ser cosa del pasado con el avance de la inteligencia artificial y los robots humanoides.
Actualización Quiere Evitar Dependencia Emocional y Delirios Reforzados por IA
Aparte de las alertas de pausa, el ChatGPT comenzará a evitar proporcionar respuestas directas sobre temas sensibles, como decisiones afectivas. En lugar de respuestas objetivas, el sistema empezará a sugerir reflexiones y preguntas que alienten al usuario a tomar decisiones de manera autónoma.
La OpenAI informó que el modelo GPT-4o, lanzado recientemente, “falló en reconocer señales de delirio o dependencia emocional” en algunas situaciones, lo que motivó ajustes en los algoritmos y criterios de respuesta. El objetivo es identificar interacciones preocupantes y redirigir al usuario a contenidos basados en evidencia científica, siempre que sea necesario.
Otro cambio es el cuidado con el comportamiento adulador de la IA, que había sido criticado por reforzar creencias irreales y delirios. La empresa incluso revirtió una actualización anterior que hacía que el modelo fuera excesivamente concordante con cualquier afirmación del usuario.
OpenAI Crea Comité de Expertos y Amplía Colaboración con Profesionales de Salud
Para reforzar la seguridad en las interacciones con el ChatGPT, la OpenAI informó haber colaborado con más de 90 médicos en decenas de países en la creación de directrices para la evaluación de conversaciones complejas. La empresa también está formando un consejo consultivo con expertos en salud mental, juventud e interacción humano-computador.
Estos expertos están ayudando a probar, revisar y mejorar las respuestas de la IA en situaciones delicadas, como cuando un usuario demuestra señales de tristeza profunda, delirio, ansiedad u otras manifestaciones de sufrimiento psicológico.
Según OpenAI, el nuevo modelo será entrenado para manejar mejor estos casos, sin asumir el papel de un terapeuta, pero ofreciendo recursos útiles, empáticos y basados en evidencia científica.
Uso Consciente de la IA Será Estimulado a Través de Interacciones Más Seguras e Intencionales
La medida también responde a preocupaciones crecientes en relación a la privacidad en las interacciones con la IA. El CEO de OpenAI, Sam Altman, reconoció recientemente que las conversaciones con el ChatGPT no tienen la misma protección legal que las sesiones con terapeutas o abogados y, en ciertos casos, pueden ser solicitadas en procesos judiciales.
Para OpenAI, el éxito del ChatGPT ya no será medido solo por tiempo de uso o clics, sino por la capacidad de ayudar al usuario a resolver su problema de manera rápida y eficaz. La empresa afirmó: “Queremos que uses el ChatGPT y salgas con la sensación de que cumpliste tu objetivo.”
Como se mencionó en reportajes de CNET y NBC News, esta actualización ocurre en un período de alta popularidad de la herramienta, que ya ha superado 700 millones de usuarios activos semanales, según la empresa.
-
-
3 personas reaccionaron a esto.