La clasificación es el combustible del cerebro que alimenta el comportamiento. La gente a menudo prefiere llamarlo por nombres más grandiosos: identificación, juicio, prejuicio, conclusión, pero cualquiera que sea el análogo, los cerebros humanos rara vez dan un paso consciente sin emplearlo primero.
Como era de esperar, una operación mental tan arraigada ha resultado difícil de pasar a los inventos, como la IA y los autos automáticos, por ejemplo. La visión del mundo de una máquina, su marco de referencia contextual, es tan difícil de construir a escala humana que los encontramos clasificando a los peatones como bicicletas y anuncios como peatones . Tal vez la IA práctica no esté lista para el mundo real, después de todo.
O tal vez el mundo real no se clasifica tan fácilmente como nos gustaría creer.
Considere el ejemplo de un anuncio en la acera y haga una pregunta relativamente simple: ¿es este un peatón?
Un algoritmo sin una cosmovisión sólida puede, de hecho, ignorar el contexto y clasificarlo como un peatón cuando claramente es solo un anuncio impreso de un peatón. Excepto que no lo es.
Es una imagen de un anuncio de un peatón, y de ninguna manera es una cuestión semántica. Lo que vemos en nuestros navegadores web es un marco contextual, y cualquier cosa que ocurra fuera de ese marco está más allá de nuestra propia visión del mundo, lo que puede llevar a una clasificación errónea. Lo que clasificamos con confianza aquí como una fotografía de un anuncio exterior es una falsificación que solo existe en la pantalla. Un algoritmo hubiera sabido mejor, basado solo en los píxeles.
La distinción entre humanos y máquinas no es que seamos mejores clasificando, sino que estamos más interesados en ser más seguros que precisos.
La distinción entre humanos y máquinas no es que seamos mejores clasificando, sino que estamos más interesados en ser más seguros que precisos. El enfoque crea su parte justa de las colisiones de tráfico, específicamente en escenarios donde los peatones aparecen fuera de contexto. Hasta ese punto, se podría argumentar que los conductores humanos tendrían dificultades para completar un solo viaje si se mantienen en los mismos estándares de rendimiento irrazonables con los que soportamos AI.
Tal priorización equivocada es un mal augurio para nosotros a medida que el mundo se vuelve cada vez más digital, y en algún momento, podemos encontrarnos confiando en la inteligencia artificial para distinguir la realidad de la fabricación.
Ciertamente, uno podría descartar el impacto de tener una cosmovisión digital limitada, ya que parece trivial saber que la mitad de nuestra especie clasificó erróneamente el color de un vestido y se negó a reconocerlo. Pero la barrera contextual de nuestras pantallas también ha jugado un papel en la elección de los líderes mundiales, ya que nos hemos alineado con ideas generadas por robots y agentes manipuladores que se hacen pasar por fuentes de noticias autorizadas y conciudadanos. Sin embargo, al igual que el vestido, muchos de nosotros preferimos mantener la confianza sobre la precisión, incluso ante la evidencia contraria.
Quizás deberíamos reconsiderar las luchas de AI en el contexto más amplio y saludable de que la clasificación es difícil y que los humanos solo la han dominado recortando esquinas e ignorando las consecuencias. Dada la oportunidad de volver a cablear un cerebro, podríamos hacer un buen esfuerzo para frenar la arrogancia.
Publicado originalmente en Forbes .
