OpenAI refuerza su estrategia para llevar ChatGPT a usuarios menores de edad con una experiencia diferenciada que incorpora Modo Estudio, controles parentales, límites de uso y mayores protecciones frente a contenido sensible.
La adopción de la inteligencia artificial entre estudiantes está obligando a las plataformas tecnológicas a resolver un dilema: cómo convertir estas herramientas en aliados del aprendizaje sin transformarlas en un mecanismo para obtener respuestas inmediatas o sustituir el razonamiento.
OpenAI presentó ChatGPT para Adolescentes, una experiencia que se aplica de manera predeterminada a las cuentas que identifica como pertenecientes a usuarios menores de 18 años. La propuesta modifica tanto la forma en que ChatGPT puede utilizarse para estudiar como las medidas de seguridad que operan alrededor de estas cuentas.
La compañía ya confirma en su documentación que las cuentas identificadas como adolescentes reciben protecciones específicas de manera predeterminada y que estas desaparecen cuando el sistema determina que el usuario tiene 18 años o más.
ChatGPT quiere ayudar con la tarea, pero no hacerla por el estudiante
Uno de los cambios centrales está relacionado con el uso académico de la inteligencia artificial.
ChatGPT para Adolescentes incorpora Modo Estudio, una función diseñada para utilizar preguntas de orientación y explicaciones paso a paso en lugar de limitarse a proporcionar una respuesta final.
La plataforma también suma recordatorios capaces de intervenir cuando detecta que un adolescente podría estar intentando utilizar ChatGPT como un atajo para completar una tarea. En esos casos, puede redirigir la interacción hacia Modo Estudio para trabajar el problema de manera progresiva.
A esto se añaden cuestionarios y visualizaciones de aprendizaje, cuyo objetivo es permitir que los estudiantes practiquen, comprueben lo aprendido y comprendan conceptos complejos mediante experiencias más interactivas.
El movimiento resulta relevante porque cambia parte de la propuesta de valor de los asistentes de IA: el objetivo ya no es únicamente entregar una respuesta rápida, sino intentar demostrar que el usuario participó en el proceso para obtenerla.
Los padres podrán establecer horarios para utilizar ChatGPT
Los padres o tutores que vinculen su cuenta con la de un adolescente pueden administrar diferentes configuraciones, entre ellas Modo Estudio y las Horas de Silencio, que establecen periodos durante los cuales ChatGPT no puede utilizarse desde la cuenta vinculada.
Además, los controles parentales permiten administrar funciones como el modo de voz, generación de imágenes, uso de memorias y determinadas protecciones frente a contenido sensible. Los padres también pueden decidir si las conversaciones del adolescente pueden utilizarse para mejorar los modelos.
Un punto importante en términos de privacidad es que vincular las cuentas no permite a los padres leer las conversaciones del adolescente ni monitorearlas en tiempo real.
OpenAI aumenta las restricciones sobre contenido sensible
Las cuentas dentro de la experiencia para adolescentes incorporan de forma predeterminada una configuración para reducir contenido sensible, diseñada para disminuir la exposición a respuestas explícitas, gráficas o inadecuadas para la edad.
Entre los contenidos sobre los que ChatGPT puede responder de manera más restrictiva aparecen violencia gráfica, desafíos virales que incentiven conductas peligrosas, juegos de rol sexuales, románticos o violentos, así como contenidos relacionados con estándares extremos de belleza, dietas poco saludables o humillaciones relacionadas con el cuerpo.
La compañía también contempla intervenciones en áreas consideradas de mayor riesgo, como autolesiones y violencia.
ChatGPT también pone límites a la relación emocional con la IA
Uno de los aspectos más relevantes de la actualización no está relacionado directamente con las tareas escolares, sino con la relación que los adolescentes pueden desarrollar con un chatbot.
OpenAI señala que ha reforzado las medidas para evitar que ChatGPT sugiera que posee sentimientos personales hacia el usuario o dé a entender que es consciente y capaz de experimentar emociones.
La intención es reducir escenarios de dependencia emocional y reforzar la importancia de las relaciones con personas reales y de confianza. La estrategia adquiere especial importancia conforme los asistentes de inteligencia artificial evolucionan de herramientas utilizadas ocasionalmente para realizar consultas a servicios capaces de mantener conversaciones prolongadas, recordar información y acompañar diferentes actividades cotidianas.
Los padres pueden recibir alertas en situaciones de alto riesgo
OpenAI también está ampliando el papel de los controles parentales en materia de seguridad.
Actualmente, cuando las cuentas están vinculadas, la compañía puede enviar una notificación a padres o tutores en situaciones limitadas cuando sus sistemas y revisores especializados detectan señales relacionadas con un riesgo grave de autolesión o cuando una cuenta adolescente es suspendida por conversaciones vinculadas con actos de violencia. (
Estas alertas pueden recibirse mediante correo electrónico, SMS o notificaciones push.
OpenAI sostiene que la información compartida se limita a la necesaria para apoyar la seguridad del adolescente y que el mecanismo no equivale a proporcionar acceso a sus conversaciones.
La empresa adelantó además que ampliará sus sistemas de notificación a otras situaciones de riesgo, incluidas aquellas relacionadas con trastornos de la conducta alimentaria.
La edad se convierte en una nueva variable para las plataformas de IA
ChatGPT para Adolescentes muestra una evolución importante en el mercado de la inteligencia artificial generativa: la misma plataforma ya no necesariamente ofrecerá la misma experiencia a todos sus usuarios.
La edad comienza a determinar las protecciones, funciones y límites disponibles.
Cuando ChatGPT identifica que una cuenta adolescente corresponde a una persona de 18 años o más, las protecciones específicas se desactivan y, si existía una vinculación mediante controles parentales, esta termina. El usuario obtiene entonces el control completo de las configuraciones disponibles para adultos.
Para OpenAI, el desafío será demostrar que estas barreras pueden funcionar sin eliminar aquello que ha impulsado el uso de la IA entre estudiantes: obtener explicaciones personalizadas, resolver dudas fuera del horario escolar y explorar temas de acuerdo con el ritmo de aprendizaje de cada usuario.
Pero el lanzamiento también abre una discusión más amplia para escuelas, padres y empresas tecnológicas: si millones de estudiantes crecerán utilizando inteligencia artificial como parte cotidiana de su educación, el reto ya no consiste únicamente en decidir si deben usarla, sino en enseñarles cuándo confiar en ella, cuándo cuestionarla y cuándo pensar por sí mismos.
from MARKETING DIGITAL https://ift.tt/LmcnpU6
via merca2.0 ref=da&site=blogger">IFTTT
No hay comentarios.:
Publicar un comentario