IA y tecnología · 1 min de lectura
Poder retocar el algoritmo: más elegido, apenas menos certero
Al predecir el rendimiento de estudiantes en matemática, con supervisión el algoritmo se eligió 7 puntos porcentuales más y el error fue algo mayor.
El estudio, en palabras claras
¿Qué pasa cuando una persona puede modificar una recomendación automática antes de usarla? En un experimento, los participantes predijeron el rendimiento de estudiantes de secundaria en una prueba de matemática y compararon recomendaciones de un algoritmo con estimaciones humanas.
Muchas personas prefirieron la recomendación del algoritmo, aun cuando su precisión media era parecida a la humana. Con la opción de revisarla y ajustarla, la preferencia fue todavía mayor, pero el resultado promedio perdió algo de precisión.
Las personas intervinieron menos en las recomendaciones con errores más grandes y, cuando lo hicieron, corrigieron menos esos errores. Tener la última palabra no garantizó una mejor predicción en esta tarea.
La idea clave
Las personas preferían al algoritmo aunque acertaba parecido que una estimación humana. Poder ajustarlo sumó preferencia y restó precisión.
Para pensar
Si tenés la última palabra sobre una recomendación automática, preguntate qué dato concreto justificaría cambiarla.
El estudio original
Putting a human in the loop: Increasing uptake, but decreasing accuracy of automated decision-making
Fuente bajo CC BY 4.0. Adaptación y explicación en español de PaperFlow, con asistencia de IA. El texto se reorganizó para divulgación; no es el artículo íntegro ni implica aval de sus autores.
Una investigación no representa por sí sola el consenso de un área. Contenido educativo: no sustituye asesoramiento profesional. Informar un posible error.