Creativialab | Miedo a decidir
Somos un grupo de personas, cada una especializada en un área diferente, pero con una visión global común. Simplemente logramos imaginar con contenido.
Creativialab, marketing, Barcelona, valores, creatividad
17220
post-template-default,single,single-post,postid-17220,single-format-standard,ajax_fade,page_not_loaded,,qode-theme-ver-10.1.1,wpb-js-composer js-comp-ver-5.0.1,vc_responsive

Miedo a decidir

Miedo a decidir

A finales de Julio un inquietante artículo informaba que Facebook había tenido que apagar un prototipo de Inteligencia Artificial (AI), debido a que los bots que se habían programado para aprender a negociar, comenzaron a desarrollar su propio lenguaje para comunicarse de forma más eficiente que con el lenguaje humano.

Lo inquietante del asunto es que la AI decidió por sí misma que era más eficiente usar un lenguaje inventado que el propio lenguaje en que fue programada. El resultado es que ese lenguaje podía llegar a ser ininteligible para los propios programadores, perdiendo el control sobre el contenido y significado de las conversaciones de la AI.

Decisión: desenchufar la máquina antes de perder el control.

Tras leer el artículo, nos vienen a la mente los desarrollos futuristas de esta idea llevados a cabo por los guionistas de Hollywood.

En  “Terminator” (1984) el sistema Skynet toma el control e inicia la revolución de las máquinas en el momento en que la inteligencia artificial toma conciencia de sí misma y de que puede tomar decisiones de forma independiente. Descubre el poder del libre albedrío, una cualidad esencial que define a los humanos.

En “Yo, robot” (2004), un agente de policía de Chicago investiga el aparente suicidio de un investigador de robótica de la compañía USR, dedicada al desarrollo de robots e inteligencia robótica. La investigación se dirige hacia la sospecha de que un robot está interpretando subjetivamente las “Tres Leyes de la Robótica” (Isaac Asimov, 1942) , poniendo en riesgo a los humanos por el mero hecho de protegerlos.

Recientemente “Ex Machina”(2014) un joven programador gana la oportunidad de conocer al CEO de la compañía para la que trabaja y experimentar en persona con el primer sistema de inteligencia artificial, interactuando con Ava, el primer robot con forma de mujer. El aprendizaje evoluciona de una forma tan progresiva que incorpora rápidamente los sentimientos y razonamientos de los humanos, conduciendo el desarrollo a un final inesperado (¡no te hago spoilers!).

 

 

Sin duda, el temor frente a estas tesis se encuentra en pérdida de control que supondría ceder la capacidad de decisión a un ente informático con una ilimitada capacidad de proceso y aprendizaje. Y la raíz del temor se encuentra en si esa Inteligencia Artificial actuaría tal como hacen los humanos ante los conflictos, la gestión del riesgo, el poder, el control, la imposición de las ideas, y en definitiva del Miedo.

¿Cómo se ha diseñado el sistema y programado esas respuestas?
¿Dispondrán esas AI de la capacidad de tomar decisiones basadas en valoraciones éticas, morales, de justicia, subjetivas en definitiva?

Imagina una AI diseñada para resolución de conflictos. Para actuar de forma eficiente ante la resolución de problemas, con actuaciones equilibradas, flexibles, justas y en beneficio de todas las partes.

¿Te suena de lo que hablo?

Sin duda, uno de los grandes retos en el desarrollo de la AI será garantizar el diseño del sistema desde un alto nivel de pensamiento, que ponga por encima el bienestar de las personas y reducir sus riesgos. Promover el Bien Común como el objetivo último en la toma de decisiones, y decidir si queremos someternos como especie a que un ente creado por nosotros mismos tenga la capacidad de decidir nuestro futuro con un sistema artificial de libre albedrío.

¿Terrorífico o esperanzador?

Mark Zuckerberg y Elon Musk lo tienen muy claro, pero el pensamiento opuesto.

¿Qué opinas tú?