La Inteligencia Artificial se alimenta de datos, y es una pena que se seleccionen “conejillos de indias” sin su consentimiento: descubren los expertos.
Si un usuario busca una receta que solo tenga dos ingredientes en el refrigerador, puede usar IA que le hará sugerencias; Lo mismo ocurre con los viajes: existen sistemas capaces de avisar al usuario cuando el precio baja. Por no hablar de generar imágenes, música, etc. En definitiva, la IA entró como un rayo caído del cielo en la vida de los usuarios con el objetivo de mejorarla. ¿Pero a qué precio?
En el pensamiento colectivo bastaría pensar en el fantástico concepto de progreso tecnológico, pero cuando se analiza en un sentido práctico, la cuestión se vuelve más pesimista. La IA utiliza diferentes datos para entrenar el sistema; O mejor dicho, quienes trabajan en ello utilizan la información del usuario. Pero hasta ahora el problema no parece ser el sistema, que ahora es de dominio público, sino la falta de transparencia en la que se lleva a cabo la práctica desde hace algún tiempo.
Inteligencia artificial: la engañosa automatización de la recopilación de datos
Slack parece haber recopilado y continúa recopilando mensajes, archivos y datos Entrenando sus capacidades en el campo de la inteligencia artificial entre bastidores. ¿La peor cosa? Los usuarios quedan automáticamente incluidos en esta práctica sin su conocimiento o consentimiento. En los últimos días, algunos usuarios descubrieron esta desagradable noticia leyendo la política de privacidad. La empresa canadiense que Salesforce adquirió a finales de 2020, No avisó previamente que el uso de los datos era automatizado Su exclusión deberá solicitarse expresamente.
La nueva política fue descubierta por casualidad por Corey Quinn, director ejecutivo de DuckBill Group. Slack escribió que no utiliza datos de usuario para entrenar modelos de IA generativos, pero puede usarlos para hacerlo. Entrenamiento de modelos de aprendizaje automático y IA no generativa Se aprovecha para algunas funciones, como emojis, sugerencias de canales, autocompletado y búsqueda. Sea de una forma u otra, La empresa analiza mensajes, archivos y otros contenidos.sin requerir permiso explícito.
En este sentido, muchos usuarios criticaron el modo de suscripción. Para evitar que sus datos se utilicen para la capacitación de modelos (optar por no participar), debe enviar un correo electrónico al servicio de atención al cliente. Por su parte, Slack confirmó que accede a algunos datos de los usuarios, pero no a los contenidos de mensajes y canales privados, destacando que el proceso de recopilación se realiza de forma agregada y que los datos no se utilizan para desarrollar modelos generativos de inteligencia artificial o Compartido con terceros.
Después de este informe, se implementó Controles técnicos para evitar accesos no autorizados. Slack dice que eligió el llamado modo de exclusión voluntaria porque cree que las protecciones son adecuadas. Sin embargo, el principal problema podría estar justo en sistema de entrenamiento de inteligencia artificial, Que sin la retroalimentación humana no podría progresar. Sin embargo, lo que actualmente hace que los usuarios se sientan traicionados es la falta de transparencia y protección de su información.
