Dron rociando pesticidas en campo de trigo.
La inteligencia artificial (IA) está a punto de impulsar una revolución agrícola y ayudar a enfrentar el desafío de alimentar a nuestra creciente población mundial de manera sostenible. Pero los investigadores advierten que el uso de nuevas tecnologías de IA a escala conlleva enormes riesgos que no se están considerando.
Imagínese un campo de trigo que se extiende hasta el horizonte, siendo cultivado para la harina que se convertirá en pan para alimentar a las personas de las ciudades. Imagine que toda la autoridad para labrar, plantar, fertilizar, monitorear y cosechar este campo se ha delegado a la inteligencia artificial: algoritmos que controlan los sistemas de riego por goteo, los tractores autónomos y las cosechadoras, lo suficientemente inteligentes como para responder al clima y al clima. necesidades exactas del cultivo. Entonces imagina que un hacker estropea las cosas.
“La idea de máquinas inteligentes que manejan granjas no es ciencia ficción”. — Asaf Tzachor
Un nuevo análisis de riesgos, publicado recientemente en la revista Nature Machine Intelligence , advierte que el uso futuro de la inteligencia artificial en la agricultura conlleva riesgos potenciales sustanciales para las granjas, los agricultores y la seguridad alimentaria que son poco entendidos y comprendidos. apreciado.
“La idea de máquinas inteligentes manejando granjas no es ciencia ficción. Las grandes empresas ya son pioneras en la próxima generación de ag-bots autónomos y sistemas de soporte de decisiones que reemplazarán a los humanos en el campo”, dijo el Dr. Asaf Tzachor del Centro para el Estudio del Riesgo Existencial (CSER) de la Universidad de Cambridge, primer autor de el documento.
“Pero hasta ahora nadie parece haber hecho la pregunta ‘¿existen riesgos asociados con un despliegue rápido de IA agrícola?'”, Agregó.
A pesar de la gran promesa de la IA para mejorar el manejo de cultivos y la productividad agrícola, los riesgos potenciales deben abordarse de manera responsable y las nuevas tecnologías deben probarse adecuadamente en entornos experimentales para garantizar que sean seguras y estén protegidas contra fallas accidentales. , consecuencias no deseadas y ataques cibernéticos, dicen los autores.
En su investigación, los autores han elaborado un catálogo de riesgos que deben tenerse en cuenta en el desarrollo responsable de la IA para la agricultura, y formas de abordarlos. En él, dan la alarma sobre los atacantes cibernéticos que pueden causar interrupciones en las granjas comerciales que utilizan IA, envenenando conjuntos de datos o cerrando rociadores, drones autónomos y cosechadoras robóticas. Para protegerse contra esto, sugieren que los ‘hackers de sombrero blanco’ ayuden a las empresas a descubrir cualquier falla de seguridad durante la fase de desarrollo, de modo que los sistemas puedan protegerse contra piratas informáticos reales.
En un escenario asociado con una falla accidental, los autores sugieren que un sistema de IA programado solo para brindar el mejor rendimiento de cultivo a corto plazo podría ignorar las consecuencias ambientales de lograrlo, lo que llevaría al uso excesivo de fertilizantes y la erosión del suelo a largo plazo. La aplicación excesiva de pesticidas en busca de altos rendimientos podría envenenar los ecosistemas; la aplicación excesiva de fertilizante nitrogenado contaminaría el suelo y las vías fluviales circundantes. Los autores sugieren involucrar a ecólogos aplicados en el proceso de diseño de tecnología para garantizar que se eviten estos escenarios.
Las máquinas autónomas podrían mejorar las condiciones de trabajo de los agricultores, liberándolos del trabajo manual. Pero sin un diseño tecnológico inclusivo, las desigualdades socioeconómicas que actualmente están arraigadas en la agricultura global, incluidas las discriminaciones de género, clase y etnia, permanecerán.
“Los sistemas agrícolas expertos en IA que no tienen en cuenta las complejidades de los insumos laborales ignorarán, y potencialmente mantendrán, la explotación de las comunidades desfavorecidas”, advirtió Tzachor.
Ya se utilizan varios ag-bots y maquinaria avanzada, como drones y sensores, para recopilar información sobre los cultivos y apoyar la toma de decisiones de los agricultores: detección de enfermedades o riego insuficiente, por ejemplo. Y las cosechadoras combinadas autónomas pueden recoger una cosecha sin la necesidad de un operador humano. Dichos sistemas automatizados tienen como objetivo hacer que la agricultura sea más eficiente, ahorrando costos de mano de obra, optimizando la producción y minimizando las pérdidas y el desperdicio. Esto conduce a un aumento de los ingresos de los agricultores, así como a una mayor dependencia de la IA agrícola.
Sin embargo, es probable que los pequeños productores que cultivan la mayoría de las granjas en todo el mundo y alimentan grandes franjas del llamado Sur Global queden excluidos de los beneficios relacionados con la IA. La marginación, las bajas tasas de penetración de Internet y la brecha digital pueden impedir que los pequeños agricultores utilicen tecnologías avanzadas, lo que amplía las diferencias entre los agricultores comerciales y los de subsistencia.
Con un estimado de dos mil millones de personas afectadas por la inseguridad alimentaria, incluidos unos 690 millones desnutridos y 340 millones de niños que sufren deficiencias de micronutrientes, las tecnologías de inteligencia artificial y la agricultura de precisión prometen beneficios sustanciales para la alimentación y la salud. la seguridad nutricional ante el cambio climático y el crecimiento de la población mundial.
“La IA está siendo aclamada como la forma de revolucionar la agricultura. A medida que implementamos esta tecnología a gran escala, debemos considerar de cerca los riesgos potenciales y tratar de mitigarlos desde el principio en el diseño de la tecnología”, dijo el Dr. Seán Ó hÉigeartaigh, director ejecutivo de CSER y coautor de la nueva investigación.
Referencia: “La inteligencia artificial responsable en la agricultura requiere una comprensión sistémica de los riesgos y las externalidades” por Asaf Tzachor, Medha Devare, Brian King, Shahar Avin y Seán Ó hÉigeartaigh, 23 de febrero de 2022, Nature Machine Intelligence. DOI : 10.1038/s42256-022-00440-4
Esta investigación fue financiada por Templeton World Charity Foundation, Inc.