Mientras India se prepara para presidir la Cumbre de IA el próximo mes, crecen las llamadas a que la ética de la IA pase de ideas abstractas a estándares prácticos y ejecutables. Estos deben estar arraigados en principios de derechos humanos como la privacidad, la igualdad, la no discriminación, el debido proceso y la dignidad.
La ética de la IA, a menudo discutida en términos vagos, necesita una definición precisa mientras India se prepara para liderar la Cumbre de IA el próximo mes, argumenta Sushant Kumar en su artículo de opinión. Enfatiza anclarla en derechos humanos ejecutables, inspirado en marcos como los Principios de Ética de la IA de la UNESCO y el Informe sobre Desarrollo Humano 2025 del PNUD. Este enfoque protege contra excesos corporativos y estatales, particularmente en bienestar, policía y vigilancia. La ética debe reflejar los contextos únicos de India, incluyendo dinámicas de castas, trabajo con género, diversidad lingüística, divisiones rurales-urbanas y vulnerabilidades digitales. Se proponen auditorías interseccionales para evaluar daños compuestos a grupos como mujeres dalit, trabajadores migrantes, jóvenes adivasi, personas con discapacidad y minorías lingüísticas, abordando cómo los sesgos se intersectan en lugar de aisladamente. La transparencia requiere que los sistemas de IA incluyan tarjetas de modelo accesibles públicamente —similares a etiquetas nutricionales— detallando datos de entrenamiento, sesgos, limitaciones y contactos para quejas, contrarrestando el hype en despliegues públicos. Garantías centrales incluyen consentimiento, control comunitario sobre datos, reparto justo de valor y salvaguardas contra prácticas extractivas. Fideicomisos de datos comunitarios, similares a organismos de gestión de recursos, podrían administrar datos para beneficio comunal, evitando que India se convierta en una 'colonia de datos'. Las medidas remediales son cruciales: responsabilidad clara por daños, como cuando errores de reconocimiento facial niegan raciones a ancianos o discapacitados, con responsabilidad primaria en autoridades desplegantes y secundaria en proveedores. Sistemas de quejas independientes y supervisión humana obligatoria en áreas de alto riesgo como policía y medicina añaden ejecutabilidad. La gente debe entender decisiones de IA que les afectan y tener recurso para impugnarlas. Al abanderar estos principios basados en derechos, India puede cumplir su potencial como líder global en gobernanza de IA.
