Innovación

Las cuestiones éticas de la inteligencia artificial cuando se liberan el código y los datos

Trabajar con modelos de inteligencia artificial (IA) requiere muchas veces adaptar la investigación a las reglas de la ciencia, especialmente cuando se está colaborando con organizaciones y expertos de otras disciplinas. Esto implica publicar los trabajos y sus resultados, hacer públicos los datos con los que se realizan los experimentos y –en el caso de la IA– y publicar el software (lo que tradicionalmente se conoce como «liberar el código») para que otras personas puedan comprobarlo, reutilizarlo y usarlo en sus propios proyectos.

Todo esto no se limita a un solo campo: cualquier industria que esté utilizando inteligencia artificial, desde la comunidad médica a la industria automovilística o la del márketing está dedicando tiempo y esfuerzos a las implicaciones legales y éticas del desarrollo de estas tecnologías. Cuestiones tales como el cumplimiento de las leyes, la responsabilidad y el respeto a los valores éticos están sobre la mesa. La Unión Europea, de hecho, publicó hace relativamente poco el informe ‘Directrices éticas para una IA fiable‘, creado por un grupo de expertos de alto nivel sobre IA y sus implicaciones a futuro.

Google ha dado a conocer recientemente un vídeo en el que relata un caso de esta problemática –y sus soluciones– de forma real y práctica, en este caso acerca de su trabajo de un sistema de aprendizaje automático (machine learning) que se utiliza para localizar en el mar a las ballenas y otros grandes mamíferos. Y es que de los laboratorios de Google se puede esperar casi cualquier cosa.

Google AI - cuestiones éticas de la inteligencia artificial

La idea partió hace años del grupo de acústica de sus laboratorios, que pensaron en enseñar a las máquinas a reconocer los particulares sonidos y cantos de las ballenas jorobadas. Trabajando con la NOAA (Oficina Nacional de Administración Oceánica) de los Estados Unidos, vieron que un dispositivo capaz de reconocer a estos majestuosos gigantes del mar podría servir para conocer más sobre sus movimientos y proteger los ecosistemas marinos en los que viven. Algo que ampliarían posteriormente a orcas, delfines y otros mamíferos marinos.

Pero antes de liberar el código y los datos que habían desarrollado para que cualquiera en la comunidad científica pudiera usarlos, decidieron chequear el proyecto con el departamento que supervisa los Principios de Inteligencia Artificial en Google, para asegurarse de que todo estaba bien. El dilema surgió cuando se percataron de que la misma herramienta que podría usarse para el bien –aprender sobre los animales y proteger su entorno– también podrían usarla pescadores furtivos y piratas para el mal. Lo que para unos podría ser un mapa de la biodiversidad para otros podría ser un mapa del estilo «la caza del tesoro».

Las preguntas que había que hacerse se redujeron a tres, que serían aplicables a otros entornos:

  • ¿Liberar este código sería beneficioso para la sociedad?
  • Usando este modelo de IA, ¿cómo se hace responsables a quienes lo utilizan?
  • ¿Cómo se ha construido este modelo se puede probar con seguridad?

Google AI - cuestiones éticas de la inteligencia artificialLa conclusión en este caso es que los beneficios superaban a los riesgos, parecía claro que los pescadores furtivos no sólo eran pocos sino que además no tenían conocimientos técnicos ni científicos para usar herramientas tan avanzadas. El proceso sirvió en cualquier caso para hacer una autorreflexión y preparar explicaciones y respuestas adecuadas a las preguntas planteadas. Es el tipo de proceso paralelo que deberían tener en cuenta quienes desarrollan nuevas tecnologías como la inteligencia artificial, cada vez con mayores implicaciones en nuestras vidas.

Últimas entradas de Microsiervos

SUV Volvo Recharge

Volvo Recharge, nuestra línea de SUV híbridos enchufables y eléctricos puros. Diseñados para ofrecer una mejor manera de moverse por el mundo.

¡Descúbrelos!
 

Deja un comentario sobre "Las cuestiones éticas de la inteligencia artificial cuando se liberan el código y los datos"

Nos encantará conocer tu opinión, pero primero tenemos que indicarte que los comentarios están moderados, y no aparecerán inmediatamente en la página al ser enviados. Evita, por favor, las descalificaciones personales, los comentarios maleducados, los ataques directos o ridiculizaciones personales, o los calificativos insultantes de cualquier tipo, sean dirigidos a los autores de "Las cuestiones éticas de la inteligencia artificial cuando se liberan el código y los datos", a cualquier otro comentarista o la empresa propietaria de esta página. Estás en tu perfecto derecho de comentar anónimamente, pero por favor, no utilices el anonimato para decirles a las personas cosas que no les dirías en caso de tenerlas delante. Intenta mantener un ambiente agradable en el que las personas puedan comentar sin temor a sentirse insultados o descalificados. No comentes de manera repetitiva sobre un mismo tema, y mucho menos con varias identidades o suplantando a otros comentaristas. También, procura que tus opiniones estén relacionadas con lo que se comenta en esta entrada. Los comentarios off-topic, promocionales, o que incumplan todas estas normas básicas serán eliminados.

Volvo Car España, S.L.U. almacenaremos y procesaremos tus datos personales de acuerdo a nuestro aviso legal y política de privacidad. En Volvo Car España, S.L.U. también compartiremos tus datos personales con nuestra Red de Concesionarios y Talleres Oficiales, quien los procesará y hará seguimiento de tu solicitud. Enviando esta solicitud, aceptas este proceso.

Nuestros clientes y amigos reciben la mejor información, campañas y promociones de Volvo Cars, a través de medios electrónicos. Al seleccionar una o varias de las casillas de abajo, consiento recibir futuras comunicaciones de Volvo Car España y/o nuestra Red de Concesionarios por el canal seleccionado.

Email

Enviado esta solicitud, consientes el procesamiento de tus datos.