Connect with us

Technologie

L’ICO lance des conseils sur l’IA et la protection des données

Published

on


Le Bureau du Commissaire à l’information (ICO) a publié un document d’orientation de 80 pages à l’intention des entreprises et d’autres organisations sur l’utilisation de l’intelligence artificielle (IA) conformément aux principes de protection des données.

Cette orientation est l’aboutissement de deux années de recherche et de consultation menées par Reuben Binns, professeur agrégé au département d’informatique de l’Université d’Oxford, et à l’équipe d’IA de l’ICO.

Les lignes directrices couvrent ce que l’OIC considère comme « les meilleures pratiques en matière d’IA conforme à la protection des données, ainsi que sur la façon dont nous interprétons la loi sur la protection des données telle qu’elle s’applique aux systèmes d’IA qui traitent les données à caractère personnel. Les directives ne sont pas un code législatif. Il contient des conseils sur la façon d’interpréter le droit pertinent tel qu’il s’applique à l’IA, et des recommandations sur les bonnes pratiques en matière de mesures organisationnelles et techniques visant à atténuer les risques pour les individus que l’IA peut causer ou exacerber ».

Il vise à fournir un cadre pour « l’audit de l’IA, en mettant l’accent sur les meilleures pratiques en matière de conformité à la protection des données – que vous conceviez votre propre système d’IA ou que vous en mettez en œuvre un à partir d’un tiers ».

Il incarne, dit-il, « les outils et les procédures de vérification que nous utiliserons dans les vérifications et les enquêtes; des directives détaillées sur l’IA et la protection des données; et une boîte à outils conçue pour fournir un soutien pratique supplémentaire aux organisations qui auditent la conformité de leurs propres systèmes d’IA ».

Il s’agit également d’un document interactif qui invite à une communication plus poussée avec l’OIC.

Ces lignes directrices s’adressent à deux auditoires : « ceux qui ont une orientation en matière de conformité, comme les agents de protection des données (DPO), les avocats généraux, les gestionnaires des risques, la haute direction et les vérificateurs de l’OIC; et des spécialistes de la technologie, y compris des experts en apprentissage automatique, des scientifiques des données, des développeurs de logiciels et des ingénieurs, et des gestionnaires de la cybersécurité et des risques it ».

Il souligne deux risques pour la sécurité qui peuvent être exacerbés par l’IA, à savoir la « perte ou l’utilisation abusive des grandes quantités de données à caractère personnel souvent nécessaires à la formation des systèmes d’IA; et les vulnérabilités logicielles à introduire à la suite de l’introduction de nouveaux codes et infrastructures liés à l’I ».

Car, comme le souligne le document d’orientation, les pratiques standard s’tiques pour le développement et le déploiement de l’IA impliquent, par nécessité, le traitement de grandes quantités de données. Il existe donc un risque inhérent que cela ne respecte pas le principe de minimisation des données.

Ceci, selon le GDPR [the EU General Data Protection Regulation] comme l’a fait l’ancien journaliste d’Computer Weekly Warwick Ashford, « emande aux organisations de ne pas détenir de données plus longtemps que nécessaire, et de ne pas modifier l’utilisation des données de l’objet pour lequel elles ont été collectées à l’origine, tandis que – en même temps – elles doivent supprimer toutes les données à la demande de la personne concernée ».

Bien que le document d’orientation indique que la protection des données et l’« éthique de l’IA » se chevauchent, il ne cherche pas à « fournir des principes éthiques ou de conception génériques pour votre utilisation de l’IA ».

AI pour l’ICO

Qu’est-ce que l’IA, aux yeux de l’OIC? « Nous utilisons le terme générique « IA » parce qu’il est devenu un terme standard de l’industrie pour une gamme de technologies. Un domaine important de l’IA est l’apprentissage automatique, qui est l’utilisation de techniques de calcul pour créer (souvent complexe) des modèles statistiques en utilisant (généralement) de grandes quantités de données. Ces modèles peuvent être utilisés pour faire des classifications ou des prédictions sur de nouveaux points de données. Bien que toutes les IA ne concernent pas ML, la plupart de l’intérêt récent pour l’IA est motivé par ML d’une certaine manière, que ce soit dans la reconnaissance d’image, la parole-à-texte, ou la classification du risque de crédit.

« Ces orientations se concentrent donc sur les défis liés à la protection des données que l’IA basée sur le ML peut présenter, tout en reconnaissant que d’autres types d’IA peuvent poser d’autres défis en matière de protection des données. »

Le concept d’« xpplicabilit » dans l’IA est particulièrement intéressant pour l’OIC. L’orientation se poursuit : « En collaboration avec l’Institut Alan Turing, nous avons produit des conseils sur la meilleure façon d’expliquer leur utilisation de l’IA aux individus. Il en est résulté que la Expliquer les décisions prises avec l’IA d’orientation, qui a été publié en mai 2020 ».

Les directives contiennent des commentaires sur la distinction entre un « ontrôl » et un « ontectio ». Il indique que « les organisations qui déterminent les buts et les moyens de traitement seront des contrôleurs indépendamment de la façon dont ils sont décrits dans tout contrat concernant les services de traitement ».

Cela pourrait être potentiellement pertinent à la controverse entourant l’implication de la société américaine d’analyse de données Palantir dans le projet NHS Data Store, où a été souligné à plusieurs reprises que le fournisseur est simplement un processeur et non un contrôleur – qui est le NHS dans cette relation contractuelle.

Données biaisées

Le guidance discute également de questions telles que les biais dans les ensembles de données conduisant à des IA prenant des décisions biaisées, et offre ce conseil, entre autres conseils: « Dans les cas de données de formation déséquilibrées, il peut être possible de l’équilibrer en ajoutant ou en supprimant des données sur les sous-ensembles sous-représentés ou surreprésentés de la population (par exemple, en ajoutant plus de points de données sur les demandes de prêt des femmes).

« Dans les cas où les données de formation reflètent la discrimination passée, vous pouvez soit modifier les données, modifier le processus d’apprentissage, soit modifier le modèle après la formation ».

Simon McDougall, sous-commissaire à l’innovation et à la technologie réglementaires à l’OIC, a déclaré à propos des lignes directrices : « Comprendre comment évaluer le respect des principes de protection des données peut être difficile dans le contexte de l’IA. Des risques exacerbés, parfois nouveaux, pour la sécurité qui découlent de l’utilisation des systèmes d’IA, au risque de discrimination et de biais dans les données. Il est difficile pour les spécialistes de la technologie et les experts en conformité de naviguer leur chemin vers des systèmes d’IA conformes et réalisables.

« Les lignes directrices contiennent des recommandations sur les meilleures pratiques et les mesures techniques que les organisations peuvent utiliser pour atténuer les risques causés ou exacerbés par l’utilisation de cette technologie. Elle reflète les pratiques actuelles en matière d’IA et est pratiquement applicable.

Continue Reading
Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *

Technologie

Les étudiants en informatique atteignent des notes élevées de niveau A malgré l’épidémie de coronavirus

Published

on


Les notes de calcul de niveau A sont en hausse cette année, même sans que les étudiants passent des examens en raison de l’éclosion du coronavirus.

Le nombre d’élèves au Royaume-Uni ayant obtenu une note de A* en informatique a considérablement augmenté par rapport à l’année dernière, avec 8 % des élèves qui ont obtenu une note de A* en 2020, comparativement à 3,4 % en 2019.

Et ce, malgré le fait que les notes ont été décidées grâce à une combinaison de recommandations d’enseignants, d’évaluations non examinées, de données scolaires et de données des années précédentes, car Covide-19 a empêché les élèves de passer des examens – une méthode qui préoccupe beaucoup.

Agata Nowakowska, vice-présidente régionale de l’Europe, du Moyen-Orient et de l’Afrique (EMEA) pour la plate-forme d’apprentissage virtuel Skillsoft, a déclaré : « Les larmes et les acclamations des étudiants de niveau A de cette année auront été exacerbées car l’absence d’examens finaux est susceptible d’avoir arraché l’occasion pour beaucoup de faire ce dernier grand effort qui aurait pu signifier la différence entre le succès et l’échec.

« Il est impossible de savoir avec certitude à quel point cela aura un impact sur les résultats de 2020, mais il est fantastique de voir que la tendance d’un plus grand nombre de filles assises au niveau A des sujets scientifiques s’est poursuivie cette année – en particulier l’informatique. »

L’informatique de niveau A a connu une augmentation du nombre de participants masculins et féminins à travers le Royaume-Uni, avec 12 426 participants, contre 11 124 l’an dernier.

Une fois de plus, le sujet a été plus populaire auprès des garçons que des filles, avec 10 629 candidats masculins cette année contre 9 649 en 2019, et seulement 1 797 candidates cette année contre 1 475 l’an dernier.

Les notes ont augmenté de façon significative, le nombre d’élèves ayant obtenu une note de A* en calcul par rapport à l’an dernier.

Les étudiantes ont obtenu des notes plus élevées que les étudiantes en informatique au Royaume-Uni, avec 11 % des candidates ayant obtenu un A* contre 7,5 % des candidats masculins. L’an dernier, les chiffres étaient de 3,7 % et de 3,4 %, respectivement.

Russ Shaw, fondateur de Tech London Advocates et Global Tech Advocates, a déclaré qu’une augmentation des candidats de niveau A de l’informatique globale est positive pour le secteur technologique du Royaume-Uni, mais il a souligné que l’industrie devrait essayer de s’attaquer au faible nombre de candidates prenant le sujet, ce qui est encore moins que la « iversité de genre lamentable » déjà présent dans l’industrie de la technologie.

« Au milieu de la confusion et de la perturbation des résultats de niveau A de cette année, l’augmentation du nombre de diplômés en informatique est un signe positif pour l’industrie de la technologie », a déclaré M. Shaw. « Le paysage de l’emploi a été transformé par la pandémie mondiale de santé et il n’a jamais été aussi important pour le Royaume-Uni d’équiper les jeunes des compétences requises par les entreprises technologiques – les entreprises qui ont entraîné la grande majorité de la création d’emplois au cours de la dernière décennie et qui continueront de le faire dans les années à venir. »

Près de 58 % des candidates de l’informatique au Royaume-Uni ont obtenu une note B ou plus cette année, contre 41,6 % en 2019.

C’est plus que la proportion de garçons qui obtiennent des notes plus élevées dans la matière, avec 48,5 % des élèves de sexe masculin qui obtiennent une note B ou plus, comparativement à 40,1 % l’an dernier.

Les chiffres des TIC continuent de baisser à mesure que le sujet est lentement éliminé, avec 1 332 étudiants qui le prennent cette année contre 1 572 en 2019, et bien que les notes aient augmenté par rapport à l’année dernière, avec 40 % d’atteintes à un B ou plus par rapport à 38,4 % l’an dernier, cette augmentation est nettement inférieure à celle observée dans les résultats informatiques.

Mais il ya eu une controverse sur la façon dont les notes ont été décidées cette année, d’autant plus que beaucoup prétendent que cela a conduit à des résultats inférieurs à prévu dans certaines matières ou pour certains élèves.

Étant donné que de nombreux examens n’ont pas pu avoir lieu en raison des restrictions mises en place pendant le verrouillage du coronavirus au Royaume-Uni, les résultats ont été calculés à l’aide d’une combinaison de données, y compris les résultats des examens fictifs, les notes de cours, les prédictions des enseignants et les notes d’évaluation des centres (CAG) soumises par les écoles et les collèges.

Des modèles de normalisation statistique ont ensuite été utilisés parallèlement à ces chiffres, et les données des résultats des années précédentes, pour s’assurer que les notes reflètent le rendement des élèves sans que les prévisions soient plus optimistes que les années précédentes.

Bien que l’organisme de réglementation des qualifications Ofqual ait affirmé que l’analyse des avantages ou des inconvénients possibles pour différents groupes socio-économiques n’ait révélé aucune preuve de partialité dans les notes de cette année, certains croient que cela ne peut être vérifié que si la méthode utilisée n’est publiée.

Attila Tomaschek, experte en protection de la vie privée numérique chez ProPrivacy, a déclaré : « Lorsque des solutions d’intelligence artificielle sont déployées pour établir des grades de niveau A au Royaume-Uni en l’absence d’évaluations formelles à la suite des annulations découlant de la crise Covide-19, il y a sont préoccupés par le fait que certains biais peuvent également apparaître dans ce cas, ce qui peut être injustement préjudiciable aux élèves défavorisés et vulnérables.

« Il ne suffit pas de simplement s’attendre à ce que les élèves fassent confiance à la puissance d’un algorithme sans permettre qu’il soit tenu à l’examen. Il doit y avoir beaucoup plus de transparence dans ce processus pour que le public et les étudiants aient confiance dans l’exactitude des résultats que produit l’algorithme.

Cependant, le service d’admission à l’université et au collège UCAS a affirmé que plus d’étudiants issus de milieux défavorisés en Angleterre ont trouvé une place sur un cours universitaire cette année.

Il y a un processus d’appel pour ceux qui ne sont pas satisfaits de leurs résultats, et les collèges, les sixièmes formulaires et les universités ont été encouragés à faire preuve de plus de souplesse avec les admissions cette année.

Continue Reading

Technologie

Muslamic Makers lance un programme de découverte de carrières

Published

on


Muslamic Makers a développé un programme conçu pour aider les personnes issues d’un milieu musulman au Royaume-Uni à développer des compétences, à recevoir du coaching et à en apprendre davantage sur les carrières numériques possibles.

Le programme Muslamic Makers Digital Careers Kickstarter se déroulera sur quatre mois, permettant aux participants d’avoir accès à une expérience de travail, à des mentors et à des réseaux avec des professionnels de l’industrie.

Arfah Farooq, co-fondateur de Muslamic Makers, a déclaré: « En tant que quelqu’un qui a grandement bénéficié d’être sur un programme quand j’étais dans ma dernière année d’université, qui est la raison pour laquelle je travaille dans le monde de la technologie, je sais combien d’impact un programme structuré comme celui-ci pourrait avoir sur le cours de la vie de quelqu’un. J’ai été désireux de créer un programme pour Muslamic Makers pendant un certain temps.

En examinant les origines ethniques des personnes travaillant dans le secteur de la technologie, des recherches menées par BCS ont révélé que le nombre de travailleurs de la technologie provenant de milieux noirs, asiatiques et issus de minorités ethniques (BAME) ne représentent que 18 % du secteur technologique – environ 8 % des spécialistes de l’informatique sont d’origine indienne, 2 % d’origine noire, africaine, caribéenne ou noire britannique, et 2 % d’origine pakistanaise ou bangladaise.

Farooq a affirmé qu’une partie de l’objectif du programme est d’empêcher la fracture de la diversité de l’industrie technologique de s’élargir, en particulier dans le climat actuel où certains groupes ethniques sont touchés de manière disproportionnée par l’épidémie de coronavirus.

Le programme Muslamic Makers est ouvert aux personnes issues d’un milieu musulman au Royaume-Uni qui ont plus de 18 ans et qui ne vont pas à l’université, qui sont en dernière année d’université, qui ont récemment obtenu leur diplôme, des mères célibataires sous-employées ou qui cherchent à retourner au travail après une pause de carrière.

Dans le cadre du programme, qui se déroulera d’octobre 2020 à janvier 2021, les participants recevront une formation d’introduction sur des sujets tels que la recherche sur les utilisateurs, le développement de produits, le prototypage, la conception et les données.

Ils recevront également du mentorat de la part d’entraîneurs personnels, de projets d’expérience de travail et d’introductions aux professionnels de la technologie qui font partie du réseau Muslamic Makers.

Farooq a demandé le financement du projet par l’intermédiaire du Fonds d’aide à l’action Winston Churchill Memorial Trust Covid-19, recevant une subvention de 2 000 euros.

De nombreuses personnes à l’extérieur du secteur de la technologie n’ont pas une bonne compréhension des rôles disponibles, des compétences nécessaires à ces emplois ou de la façon dont elles pourraient s’intégrer dans l’industrie, et sont plutôt exposées à des stéréotypes non représentatifs de ceux qui travaillent dans le secteur.

Farooq a déclaré qu’il Muslamic Makers Digital Careers Kickstarter Programme vise à résoudre ce problème en donnant aux participants une exposition au secteur et une idée de ce qui est impliqué dans les rôles numériques.

Elle a déclaré: « Covide-19 ne va que faire l’écart technologique plus large que les portes sont fermées sur de nombreuses personnes. Les gens de notre communauté n’ont pas les réseaux ou ne comprennent pas les différents rôles [in tech].

« Ce programme permet vraiment aux gens d’y être exposés par le biais d’ateliers, d’avoir des défis posés par les entreprises afin qu’ils puissent « essayer », mais surtout d’avoir un professionnel de l’industrie pour les coacher et les guider tout au long du voyage. »

Le programme est actuellement à la recherche d’entraîneurs, issus de musulmans ou alliés de la communauté, avec une expérience numérique qui sont prêts à aider les participants pendant leur temps sur le programme.

Les candidatures pour le programme gratuit se terminent le 31 août 2020.

Continue Reading

Technologie

Comment Dharma ransomware est devenu une entreprise de services efficace

Published

on


Alors qu’une grande partie de l’attention sur ransomware a naturellement porté sur les souches de tuer des entreprises telles que Maze, ReVIL / Sodiokiobi et WastedLocker, d’autres ransomwares tels que Dharma continuent de prospérer et est devenu le centre d’une entreprise souterraine de services de cybercriminalité, selon une recherche qui révèle comment Dharma s’est établi comme un ransomware efficace et rentable comme un service (RaaS).

Dans un rapport intitulé Couleur par nombres: À l’intérieur d’une attaque Dharma RaaS, Sean Gallagher, chercheur principal sur la menace chez Sophos, a partagé un nouvel aperçu approfondi du script et du test d’outils automatisés d’attaque de Dharma, qui est offert aux acheteurs de cybercriminels pour cibler les petites et moyennes entreprises (PME).

« Avec tant de demandes de rançon de plusieurs millions de dollars, des cibles de haut niveau et des adversaires avancés comme WastedLocker qui font maintenant les manchettes, il peut être facile d’oublier que des menaces comme le Dharma sont bien vivantes et qu’elles permettent à un tout autre échelon de cybercriminels de frapper de multiples cibles plus petites pour ratisser une fortune, huit mille dollars à la fois », a déclaré M. Gallagher.

Depuis son émergence en 2016, Dharma s’est imposé comme l’un des ransomwares les plus rentables grâce à son modèle d’affaires de masse, basé sur les services. Gallagher l’a décrit comme une « franchise de restauration rapide », disant qu’il est largement et facilement disponible à peu près n’importe qui qui le veut.

« Les offres ransomware-as-a-service de Dharma élargissent la gamme de personnes qui peuvent exécuter des attaques ransomware dévastatrices. C’est assez inquiétant en soi en temps normal. Mais à l’heure actuelle, alors que de nombreuses entreprises s’adaptent à la pandémie et s’adaptent à un besoin de soutien rapide pour les travailleurs à distance, et que le personnel informatique s’est étiré, les risques de ces attaques sont amplifiés », a-t-il déclaré.

« La nécessité d’équiper et de permettre une main-d’œuvre étonnamment éloignée a laissé les petites entreprises avec une infrastructure et des dispositifs vulnérables et a entravé la capacité du personnel de soutien informatique de surveiller et de gérer adéquatement les systèmes comme ils le feraient normalement. »

La facilité d’utilisation est au cœur du modèle d’affaires du Dharma RaaS, ce qui le rend particulièrement dangereux pour les PME. Ses bailleurs de fonds offrent à leurs clients un ensemble de scripts et d’outils pré-construits et prennent relativement peu de compétences techniques pour fonctionner, en tirant parti des outils Windows internes, des logiciels gratuits tiers légitimes, des outils de sécurité bien connus et des exploits accessibles au public, intégrés par des scripts PowerShell, batch et AutoIT sur mesure.

Cela étend la portée des opérateurs de Dharma, leur permettant de profiter tandis que leurs clients – qui paient environ 2.000 $ pour Dharma sur les forums souterrains – faire le travail d’âne de la violation des réseaux, l’abandon du ransomware, et l’exécution de « er service à la client » pour les victimes.

Pour la victime, le décryptage est une tâche assez complexe qui fonctionne en deux étapes. Si vous contactez l’affilié Dharma pour les clés de récupération, vous serez donné un outil de première étape qui extrait les détails de tous vos fichiers cryptés. L’affilié partagera ensuite ces données extraites avec les opérateurs de Dharma, qui fournissent ensuite la clé de décryptage de deuxième étape pour les fichiers. Bien sûr, à quel point ce processus est efficace dans la restauration des données est en place pour le débat et beaucoup sera à cheval sur les compétences, et même l’humeur, de l’affilié.

Cela signifie qu’il est préférable d’arrêter une attaque avant qu’elle ne se produise, ou de s’assurer que vous êtes suffisamment bien protégé pour être en mesure de l’ignorer et recommencer.

Gallagher a déclaré que la plupart des attaques d’affiliation Dharma peuvent être effectivement émoussées en veillant à ce que les serveurs de protocole de bureau à distance (RDP) – l’exploitation des serveurs RDP vulnérables est derrière environ 85% des attaques de Dharma – et sécurisé derrière un réseau privé virtuel (VPN) avec authentification multifacteur.

Les PME devraient également être sur le qui-vive pour le vol d’informations d’identification par le biais d’attaques d’hameçonnage – d’autant plus que le travail à distance continue d’être la norme, et de prêter attention à leurs propres fournisseurs de services informatiques et à d’autres tiers qui peuvent avoir accès à leurs systèmes.

Continue Reading

Trending