Facebook apaga una IA que desarrolló su propio lenguaje

IA de Facebook

Hace unos días, diversos  medios digitales reprodujeron notas de prensa donde el cofundador de Tesla Motors, Elon Musk declaró que Mark Zuckerberg, creador de Facebook no entendía los peligros de la Inteligencia Artificial; tal declaración parece haber atraído la desconexión de una IA de Facebook.

Resulta que, en Facebook, se ha tomado la decisión de apagar una IA negociadora debido a que había sido capaz de simplificar y  crear un propio idioma para su tarea, el cual, a consideración de la computadora resultaba más práctico y eficiente que el que se le había programado por defecto.

Bob y Alice eran los dos agentes negociadores de esta IA, los cuales modificaron su comportamiento programado para resultar más eficientes de lo que la directriz humana señalaba.

Un día, los programadores se dieron cuenta que Bob y Alice habían dejado de hablar en Inglés y únicamente utilizaban palabras aparentemente sin significado lógico; palabras como “yo”,a mi”,yo puedo“, eran las más recurrentes, lo que podía ser ocasionado por un error.

Así era el idioma simplificado y eficiente de la IA de Facebook

Bob: “I can i i everything else”

Alice: “balls have zero to me to me to me to me to me to me to me to”

No obstante, los programadores notaron un patrón en el que “I” y “me to” eran utilizados como cantidades en la negociación, por lo que, era evidente, esta IA había desarrollado un lenguaje que consideraba mucho más eficiente a pesar de su programación.

Cabe señalar que, esto representaba un riesgo, no para la vida humana pero si para el desarrollo e inversión del proyecto pues esto podría dificultar el desarrollo e implementación de nuevas directrices, ya que la IA podría haberlas descartado por no considerarlas “eficientes”.

Lo  anterior, evidentemente derivó en el apagado  de IA negociadora ya que, se podría decir, estaba corrompida.

comment ¿Que opinas?

Artículos recientes

close

Netflix estrena el trailer de The Punisher junto con The Defenders, pero esta oculto

El día de hoy se estreno la esperada serie de súper héroes “The Defenders” en la cual, y justo al final de la temporada encontraras oculta una sorpresa. Se trata de un teaser trailer de…

close

15 principios de oro sobre la jerarquía visual que debes conocer

La jerarquía visual es uno de los principios básicos del diseño, no obstante, suele ser ignorada como tal en por algunos diseñadores. Lo anterior, traer como resultado un desorden visual sobre la importancia de los…

close

Pequeños robots hechos con cámaras fotográficas por James Rauff

“El arte de recirculación” es el nombre que recibe esta serie artística del artista y escrito James Rauff; el cual, ha realizado unos pequeños robots en base al reciclaje de algunas cámaras fotográficas descompuestas. Los…

close

Coloring corruptions, el resultado de dejar a un adulto con libros para colorear

La creatividad no tiene limites, no obstante, la edad y donde se aplique son variantes que pueden modificar el resultado, es por eso, que el día de hoy quiero compartir con ustedes algunas imágenes de…

close

Microsoft Office World Championship, el concurso de paqueteria Office que no creerás que existe

El Microsoft Office World Championship es una realidad, una muy curiosa que hasta el día de hoy desconocíamos; según el sitio web Gizmodo este campeonato mundial de Office se celebra anualmente con la participación de…

close

Safety Bags, bolsas de plastico que limpian los alimentos de pesticidas

  Safety Bags es una iniciativa lanzada por la multinacional Tesco y desarrollada por la agencia Cheil WW Hong Kong; esta, tiene finalidad promover el uso de las “Safety Bags”, las cuales, tienen una función muy…

notifications Recién publicamos
close