Todo lo que la gente hace y ve en la web es producto de algoritmos\u00bb, explican en un informe expertos del centro independiente de investigaci\u00f3n Pew Research Center, con sede en Washington, Estados Unidos.<\/p>\n
En otras palabras, son el mecanismo oculto responsable de lo que vemos en el muro Facebook<\/strong>, las sugerencias que nos muestra Netflix o los resultados que aparecen cuando introducimos una palabra en el buscador de Google.<\/p>\n <\/p>\n Y, a veces, pueden incluso ser los responsables de que seamos seleccionados o rechazados para un trabajo<\/strong>, recibamos un pr\u00e9stamo o incluso se caiga la bolsa de Wall Street.<\/p>\n Por todas esas razones cada vez preocupa m\u00e1s que los algoritmos usados por los gigantes tecnol\u00f3gicos no sean siempre justos<\/strong> en las decisiones que toman. Y los errores en los sistemas de reconocimiento facial son un ejemplo de ello.<\/p>\n Pero adem\u00e1s, a menudo los algoritmos operan dentro de lo que se conoce como \u00abcajas negras\u00bb, lo que significa que ni siquiera sus due\u00f1os pueden ver c\u00f3mo est\u00e1n tomando esas decisiones.<\/p>\n Por eso algunas compa\u00f1\u00edas tecnol\u00f3gicas, como IBM<\/strong>, est\u00e1n buscando soluciones a ese problema.<\/p>\n El gigante estadounidense acaba de presentar un nuevo servicio de software que \u00abdetecta autom\u00e1ticamente los sesgos<\/strong> (de los algoritmos) y proporciona la explicaci\u00f3n sobre las decisiones que toma la inteligencia artificial\u00bb, se lee en un comunicado publicado este mi\u00e9rcoles.<\/p>\n La idea es que con el Fairness 360 Kit sus clientes puedan observar en tiempo real a trav\u00e9s de un panel visual- c\u00f3mo los algoritmos toman decisiones y qu\u00e9 factores usan para hacer recomendaciones al final del proceso.<\/p>\n \u00abEstamos facilitando a las empresas que utilizan la inteligencia artificial una mayor transparencia y control paraafrontar el riesgo potencial de una toma de decisiones err\u00f3nea\u00bb, explic\u00f3 Beth Smith, directora general de Watson AI, el sistema de inteligencia artificial <\/strong>de IBM.<\/p>\n Microsoft <\/strong>es otra de las compa\u00f1\u00edas que est\u00e1 trabajando en el tema.<\/p>\n La multinacional anunci\u00f3 en mayo, durante su conferencia anual de desarrolladores, que est\u00e1 trabajando en una herramienta para detectar sesgos en sus algoritmos.<\/p>\n \u00abPor supuesto, no podemos esperar la perfecci\u00f3n, siempre habr\u00e1 alg\u00fan sesgo no detectado o que no se puede eliminar, el objetivo es hacer todo lo que podamos\u00bb, dijo Rich Caruna, un investigador senior de la compa\u00f1\u00eda.<\/p>\n Facebook<\/strong>, perjudicada tras el esc\u00e1ndalo de Cambridge Analytica en abril, tambi\u00e9n declar\u00f3 que est\u00e1 probando una herramienta para determinar si su algoritmo genera errores.<\/p>\n Y lo mismo se aplica a Google<\/strong>, que la semana pasada lanz\u00f3 un sistema para explicar a sus usuarios c\u00f3mo funcionan sus modelos de aprendizaje autom\u00e1tico.<\/p>\n Pero, \u00bfc\u00f3mo llegamos a este punto?<\/p>\n La dependencia en aprendizaje autom\u00e1tico y los algoritmos ha hecho que el problema de los sesgos sea cada vez m\u00e1s importante para la comunidad vinculada a iniciativas de Inteligencia Artificial.<\/p>\n \u00abY parte del problema es que las bases de datos empleadas para ‘entrenar’ a los algoritmos no siempre es lo suficientemente diversa<\/strong>\u00ab, explica la reportera de tecnolog\u00eda de la BBC Zoe Kleinman.<\/p>\n <\/p>\n Joy Buolamwini, por ejemplo, fund\u00f3 la Liga de la Justicia Algor\u00edtmica mientras cursaba estudios de postgrado en el MIT en 2016, luego de descubrir que un sistema de reconocimiento facial solo notaba su rostro si lo cubr\u00eda con una m\u00e1scara blanca.<\/p>\n Y un a\u00f1o antes Google tuvo que disculparse cuando su algoritmo de clasificaci\u00f3n de fotos confundi\u00f3 im\u00e1genes de personas negras con gorilas<\/strong>.<\/p>\n Por eso hay un debate creciente sobre la \u00e9tica de la inteligencia artificial<\/strong>, dice Kay Firth-Butterfield, quien encabeza el programa de inteligencia artificial y aprendizaje autom\u00e1tico en el Foro Econ\u00f3mico Mundial,. <\/strong><\/p>\n \u00abComo abogada, algunas de las preguntas sobre c\u00f3mo averiguamos qu\u00e9 hizo que un algoritmo funcionara mal me parecen muy interesantes\u00bb, declar\u00f3 Firth-Butterfield en una entrevista reciente con el canal de televisi\u00f3n estadounidense CNBC.<\/p>\n \u00abCuando hablamos sobre sesgos, nos preocupa sobre todo la visi\u00f3n de quienes crearon los algoritmos, y son sobre todo hombres j\u00f3venes y blancos<\/strong>, por eso necesitamos hacer que la industria sea mucho m\u00e1s diversa en Occidente\u00bb, a\u00f1adi\u00f3.<\/p>\n Esos sesgos tambi\u00e9n pueden afectar a decisiones como el seguro m\u00e9dico, la escolaridad o el registro criminal, a medida que las decisiones gubernamentales se vuelven m\u00e1s automatizadas.<\/p>\n Y por eso AI Now -un instituto de investigaci\u00f3n que estudia las implicaciones sociales de la inteligencia artificial- sostiene en un reporte reciente que es vital que las agencias gubernamentales dejen de usar algoritmos \u00abde caja negra\u00bb<\/strong>.<\/p>\n \u00abLos ciudadanos deber\u00edan saber c\u00f3mo se toman las decisiones<\/strong>\u00ab, dijo Kate Crawford, exinvestigadora en Microsoft y fundadora de AI Now.<\/p>\n \u00abSon sistemas complejos, y se espera que sean todav\u00eda m\u00e1s complejos a medida que las tecnolog\u00edas de aprendizaje autom\u00e1tico se hacen m\u00e1s accesibles para las empresas\u00bb, reconoci\u00f3.<\/p>\n Pero es precisamente por eso que \u00abdeber\u00edamos tener procesos de protecci\u00f3n equivalentes<\/strong> para decisiones algor\u00edtmicas que para decisiones humanas\u00bb, sostiene la fundadora de AI Now.<\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" \u00bfQu\u00e9 es un algoritmo? Es una palabra de moda, pero a muchos todav\u00eda nos cuesta comprender su significado. El diccionario de la Real Academia Espa\u00f1ola lo define como \u00abun conjunto ordenado y finito de operaciones que permite hallar la soluci\u00f3n de un problema\u00bb. Pero en la sociedad contempor\u00e1nea, los algoritmos han adquirido un rol cada…<\/p>\n","protected":false},"author":1,"featured_media":1309,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[1],"tags":[419,421,420,111,422],"class_list":["post-1308","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized","tag-algoritmo","tag-artificial","tag-inteligencia","tag-microsoft","tag-proteccion"],"_links":{"self":[{"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/posts\/1308","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/comments?post=1308"}],"version-history":[{"count":0,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/posts\/1308\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/media\/1309"}],"wp:attachment":[{"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/media?parent=1308"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/categories?post=1308"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/platiniumhost.com\/blog\/wp-json\/wp\/v2\/tags?post=1308"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"Tipo](\"https:\/\/ichef.bbci.co.uk\/news\/624\/cpsprodpb\/109EF\/production\/_103497086_algoritmo.jpg\")
<\/p>\nFalta de transparencia<\/h2>\n
![\"Reconocimiento](\"https:\/\/ichef.bbci.co.uk\/news\/624\/cpsprodpb\/B2BF\/production\/_103495754_personality.jpg\")
<\/p>\n![\"Algorithms](\"https:\/\/ichef.bbci.co.uk\/news\/624\/cpsprodpb\/FFA8\/production\/_103484456_gettyimages-898172160.jpg\")
<\/p>\nUn problema de diversidad<\/h2>\n
![\"Joy](\"https:\/\/ichef.bbci.co.uk\/news\/624\/cpsprodpb\/136C8\/production\/_95506597_mediaitem95506596.jpg\")
<\/p>\nNecesidad de protecci\u00f3n<\/h2>\n
![\"Igualdad\"](\"https:\/\/ichef.bbci.co.uk\/news\/624\/cpsprodpb\/DC31\/production\/_103496365_gettyimages-533029935.jpg\")
<\/p>\n