Omet al contingut

Auditoria Algorítmica & Benchmarking

EL nostre servei per avaluar solucions & alliberar tot el potencial de la IA de confiança

Es tracta de fer la teva organització més competitiva

Identifiquem els punts dèbils dels sistemes de IA que posan en risc les teves operacions, incrementant la responsabilitat algorítmica.

T'entreguem totes les recomanacions necessàries per a progressar cap a una solució de IA competitiva.

Què revisem

Validació Interna & Selecció de Model

Repasem en detall l'esquema de desenvolupament & validació del sistema de IA, revisant aspectes de la selecció de model & feature engineering, relacionats amb el temible overfitting.

Validació Externa & Real World Test

Realitzem tests d'estrès en condicions reals per a obtenir estimacions precises del rendiment del sistema de IA al món real, i del seu impacte en les teves operacions.

Explicabilitat & Transparència

Evaluem perquè & com el sistema de IA fa les seves prediccions; reduïm la perillosa noció de black-box IA & facilitem el tractament d'errors.

Reproducibilitat & Fiabilitat

Pilars de la innovació científica, et permetem entendre els quès & coms del sistema de IA, identificant els seus límits.

Justicia & Biaixos

Busquem els biaixos que sabotejen l'operació del sistema de IA, així com problemes de data drifting.

Altres Consideracions de Dades

Limitació de propòsit, proporcionalitat, minimització de dades, privacitat, propietat, regulació. Compliment GDPR.

Evaluació algorítmica & benchmarking t'ajuden a...

Tenir un pla segur de desplegament que maximitza l'impacte de la IA

Respondre a organismes reguladors i e.g. obtenir la teva certificació mèdica

Estalviar inversions de temps & diners innecessàries en una solució fallida

Adherir-se a un ús responsable de sistemes de IA

Com ho fem

  1. Preparació
    Establim quin és el contexte operacional, l'ús de la solució de IA, i l'enfoc de la revisió.
  2. Revisió
    Realitzem una avaluació exhaustiva de la documentació disponible sobre el desenvolupament i funcionament de la solució d'IA, identificant els aspectes sense evidència, perillosos per al funcionament de la IA.
  3. Test & Benchmarking
    Dissenyem un real-world experiment per detectar errors del sistema, dissenyem l'experiment per maximitzar la seva rellevància i la informació que extreu.
  4. Millora
    Destil·lem les troballes i proporcionem informació útil. Això inclou l'avaluació i la puntuació de la solució d'IA, recomanacions per abordar els resultats de la revisió, amb l'objectiu d'impulsar cap a una IA de confiança.

Històries d'Èxit

Desenvolupament d'una eina d'auto-avaluació per la verificació de dades i sistemes de IA en Salut

En els darrers mesos hem tingut el privilegi de treballar amb l'equip de PickleTech per desenvolupar una eina de verificació de dades i sistemes d’IA per l’àmbit de la salut, tenint en compte requisits legislatius i els estàndards i recomanacions ètiques més actuals. La seva expertesa i experiència en l’avaluació algorítmica així com el seu saber fer i comprensió de diversos aspectes sociotècnics al voltant del disseny i l’impacte de les tecnologies d’IA ens ha servit per avançar moltíssim en el que serà el nou Model PIO Salut.

Albert Sabater Coll, Director de l’Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC)

Col·laboradors


CA