PRIVACYDAILY

N. 141/2023

LE TRE NEWS DI OGGI:

• PARLAMENTO UE APPROVA NO ALL’AI PER IDENTIFICAZIONE BIOMETRICA E SORVEGLIANZA DI MASSA
• GOOGLE DOVRA’ POSTICIPARE IL LANCIO DI BARD IN EUROPA PER VIA DELLE PREOCCUPAZIONI PRIVACY SOLLEVATE DALL’AUTORITA’ IRLANDESE
• MARGRETE VESTAGEN ALLA BBC, USARE AI PER PRESTITI E MUTUI E’ UN RISCHIO

Il blitz del Partito popolare europeo non è riuscito e alla fine il Parlamento Ue in plenaria a Strasburgo ha approvato la propria posizione negoziale sulla legge Ue che normerà l’intelligenza artificiale (la prima al mondo) vietando il riconoscimento facciale in spazi accessibili al pubblico. Il Ppe aveva presentato due emendamenti per modificare questa parte del testo e consentire alle forze dell’ordine in circostanze particolari di poter usare l’identificazione biometrica remota in spazi pubblici. Per gli eurodeputati vanno vietati anche i sistemi di polizia predittiva, il riconoscimento delle emozioni e vanno considerati ad alto rischio i sistemi di IA utilizzati per influenzare gli elettori nelle elezioni. Inoltre i sistemi di IA generativa come ChatGPT dovranno dichiarare come è stato generato il contenuto. Ora può iniziare il «trilogo», ovvero il negoziato tra le tre istituzioni Ue: Parlamento, Consiglio (Stati membri) e Commissione Ue. «Stiamo organizzando il primo trilogo stasera a Strasburgo», ha commentato il commissario Ue al Mercato interno Thierry Breton: «L’IA solleva molte questioni dal punto di vista sociale, etico ed economico. Ma non è il momento di premere alcun “pulsante di pausa”. Al contrario, si tratta di agire rapidamente e di assumersi la responsabilità». Brando Benifei (Pd), correlatore del dossier con Dragos Tudorache (Renew), ha sottolineato che gli eurodeputati vogliono che  «il potenziale creativo e produttivo dell’IA venga sfruttato. Tuttavia, durante i negoziati con il Consiglio ci batteremo per proteggere la nostra posizione e contrastare i pericoli per la democrazia e la libertà» .Il verdetto. Il testo è passato con 499 voti a favore, 28 contrari e 93 astenuti. Le norme mirano a garantire che l’IA sviluppata e utilizzata in Europa sia conforme con i diritti e i valori dell’Ue. Le norme come impostate dalla Commissione Ue nella proposta del 2021 seguono un approccio basato sul rischio e stabiliscono obblighi per fornitori e operatori dei sistemi di IA a seconda del livello di rischio che l’IA può generare. «Saranno quindi vietati i sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone», spiega il Parlamento Ue. I deputati hanno allungato la lista dei  divieti di uso dell’IA perché «intrusivi e discriminatori».

Google dovrà rimandare l’avvio del suo chatbot di intelligenza artificiale Bard nell’Unione Europea dopo che sono state sollevate preoccupazioni sulla privacy. La Data Protection Commission irlandese ha dichiarato, infatti, che il gigante tecnologico non ha finora fornito informazioni sufficienti su come il suo strumento di intelligenza artificiale generativa protegga la privacy degli europei, in vista dell’ormai prossimo lancio nell’UE. “Google ha recentemente informato la Commissione per la protezione dei dati personali della sua intenzione di lanciare Bard nell’UE questa settimana”, ha dichiarato il vice commissario Graham Doyle. L’autorità di controllo “non ha avuto alcuna informazione dettagliata né ha visto una valutazione d’impatto sulla protezione dei dati o altra documentazione di supporto a questo punto”. La DPC ha dichiarato di aver chiesto e di essere in attesa che l’azienda fornisca una valutazione dettagliata e risponda a ulteriori domande su come Bard intenda conformarsi alle norme dell’UE in materia di protezione dei dati “come questione di urgenza”. “Bard non effettuerà il lancio questa settimana”, ha dichiarato Doyle. La questione è oggetto di un “esame continuo” da parte dell’Autorità irlandese, che condividerà le informazioni con le altre agenzie europee per i dati “il prima possibile”. “A maggio abbiamo dichiarato di voler rendere Bard più ampiamente disponibile, anche nell’Unione Europea, e lo avremmo fatto in modo responsabile, dopo un impegno con esperti, regolatori e responsabili politici”, ha dichiarato un portavoce di Google. “Come parte di questo processo, abbiamo parlato con le autorità di regolamentazione della privacy per rispondere alle loro domande e ascoltare i loro commenti”.

Margrethe Vestager ha dichiarato che sono necessari “guardrail” per contrastare i principali rischi della tecnologia, in particolare nei casi in cui l’intelligenza artificiale viene utilizzata per prendere decisioni che possono influire sul sostentamento di una persona, come ad esempio la possibilità di richiedere un mutuo. Il Parlamento europeo ha approvato la proposta di regolamento su AI. In un’intervista esclusiva alla BBC, la signora Vestager ha dichiarato che il potenziale dell’IA di amplificare i pregiudizi o le discriminazioni, che possono essere contenuti nelle vaste quantità di dati provenienti da Internet e utilizzati per addestrare modelli e strumenti, è una preoccupazione più pressante.”Probabilmente [il rischio di estinzione] può esistere, ma credo che la probabilità sia piuttosto bassa. Penso che i rischi dell’IA siano più che altro che le persone vengano discriminate, che non vengano considerate per quello che sono.”Se si tratta di una banca che la usa per decidere se posso ottenere un mutuo o meno, o se si tratta dei servizi sociali del vostro comune, allora volete essere sicuri che non siate discriminati a causa del vostro sesso, del vostro colore o del vostro codice postale”, ha detto. Martedì scorso, l’autorità irlandese per la protezione dei dati ha dichiarato di aver sospeso il previsto lancio nell’UE del chatbot AI Bard da parte di Google. Ha dichiarato di essere stata informata da Google che il suo concorrente ChatGPT sarebbe stato introdotto nell’UE questa settimana, ma di non aver ancora ricevuto dettagli o informazioni che dimostrino come l’azienda abbia identificato e minimizzato i rischi per la protezione dei dati per i potenziali utenti. La Vestager, vicepresidente esecutivo della Commissione europea, ha affermato che la regolamentazione dell’IA deve essere un “affare globale”, insistendo sulla necessità di raggiungere un consenso tra i Paesi “che la pensano allo stesso modo” prima di coinvolgere altre giurisdizioni, come la Cina. “Iniziamo a lavorare su un approccio ONU. Ma non dovremmo trattenere il respiro”, ha detto. “Dovremmo fare quello che possiamo qui e ora”.

English version

• EU PARLIAMENT APPROVES NO AI FOR BIOMETRIC IDENTIFICATION AND MASS SURVEILLANCE
• GOOGLE WILL HAVE TO POSTPONE THE LAUNCH OF BARD IN EUROPE BECAUSE OF PRIVACY CONCERNS RAISED BY THE IRISH AUTHORITY
• MARGRETE VESTAGEN TO BBC, USING AI FOR LOANS AND MORTGAGES IS A RISK

The blitz by the European People’s Party failed and in the end the EU Parliament plenary in Strasbourg approved its negotiating position on the EU law that will regulate artificial intelligence (the first in the world) by banning facial recognition in publicly accessible spaces. The European People’s Party had tabled two amendments to modify this part of the text (here is an in-depth study explaining its contents) and allow the police in special circumstances to use remote biometric identification in public spaces. For MEPs, predictive policing systems, emotion recognition and AI systems used to influence voters in elections should also be banned. Furthermore, generative AI systems such as ChatGPT will have to declare how the content was generated. Now the ‘trilogue’, i.e. the negotiations between the three EU institutions: Parliament, Council (member states) and the EU Commission, can begin. “We are holding the first trialogue tonight in Strasbourg,” commented EU Internal Market Commissioner Thierry Breton: “AI raises many issues from a social, ethical and economic point of view. But this is not the time to press any “pause button”. On the contrary, it is about acting quickly and taking responsibility’. Brando Benifei (PD), co-rapporteur of the dossier with Dragos Tudorache (Renew), stressed that MEPs want “the creative and productive potential of AI to be exploited. However, during the negotiations with the Council we will fight to protect our position and counter the dangers to democracy and freedom”.The verdict The text passed with 499 votes in favour, 28 against and 93 abstentions. The rules aim to ensure that AI developed and used in Europe complies with EU rights and values. The rules as set out by the EU Commission in the 2021 proposal follow a risk-based approach and establish obligations for providers and operators of AI systems depending on the level of risk that the AI may generate. “AI systems that present an unacceptable level of risk to human safety will therefore be banned,” the EU Parliament explains. MEPs have lengthened the list of bans on the use of AI because they are ‘intrusive and discriminatory’.

Google will have to postpone starting its artificial intelligence chatbot Bard in the European Union after its main data regulator in the bloc raised privacy concerns.The Irish Data Protection Commission said Tuesday that the tech giant had so far provided insufficient information about how its generative AI tool protects Europeans’ privacy to justify an EU launch. The Dublin-based authority is Google’s main European data supervisor under the bloc’s General Data Protection Regulation (GDPR)”Google recently informed the Data Protection Commission of its intention to launch Bard in the EU this week,” said Deputy Commissioner Graham Doyle.The watchdog “had not had any detailed briefing nor sight of a data protection impact assessment or any supporting documentation at this point.”The Irish regulator said it asked and is waiting for the company to provide a detailed assessment and answer additional questions about how Bard complies with EU’s data protection rules “as a matter of urgency.””Bard will not now launch this week,” said Doyle.The issue is under “ongoing examination” by the Irish regulator, which will share information with other European data agencies “as soon” as possible.Amid an AI race, Google has since March rolled out its competitor to OpenAI’s ChatGPT and Microsoft’s Bing Chat to 180 countries, including both the U.S. and the U.K. But the tech company has so far stayed away from EU countries, where powerful privacy regulators have previously targeted generative-AI sensation ChatGPT for allegedly mishandling people’s data and lacking a legal basis for its algorithm under the GDPR.“We said in May that we wanted to make Bard more widely available, including in the European Union, and that we would do so responsibly, after engagement with experts, regulators and policymakers,” said a Google spokesperson. “As part of that process, we’ve been talking with privacy regulators to address their questions and hear feedback.”ChatGPT was temporarily banned in Italy in March. Several European privacy authorities in Italy, Germany and Spain have started investigating the AI tool; the pan-European network of regulators, the European Data Protection Board, has set up a task force to evaluate it.

Margrethe Vestager said “guardrails” are needed to counter the major risks of the technology, particularly in cases where artificial intelligence is used to make decisions that can affect a person’s livelihood, such as whether to apply for a mortgage. The European Parliament approved the proposed rules on AI on Wednesday. MEPs’ vote in favour of the legislation comes amid warnings about the too-rapid development of this technology, which allows computers to perform tasks that usually require human intelligence. Some experts have warned that AI could lead to the extinction of mankind.In an exclusive interview with the BBC, Ms Vestager said that the potential for AI to amplify prejudice or discrimination, which can be contained in the vast amounts of data from the Internet and used to train models and tools, is a more pressing concern. “Probably [the risk of extinction] may exist, but I think the probability is quite low. I think the risks of AI are more about people being discriminated against, not being seen for who they are.’If it’s a bank using it to decide whether I can get a mortgage or not, or if it’s your local council’s social services, then you want to make sure that you’re not discriminated against because of your gender, your colour or your postcode,’ he said. On Tuesday, Ireland’s data protection authority said it was suspending Google’s planned launch of the AI chatbot Bard in the EU.It said it had been informed by Google that its competitor ChatGPT would be introduced in the EU this week, but had not yet received any details or information showing how the company had identified and minimised data protection risks for potential users. Deputy Commissioner Graham Doyle said the DPC was seeking the information ‘urgently’ and raised further data protection queries with Google. Vestager, executive vice-president of the European Commission, said that regulation of AI must be a ‘global affair’. Vestager insisted on the need to reach a consensus among ‘like-minded’ countries before involving other jurisdictions, such as China. “We are starting to work on a UN approach. But we should not hold our breath,” he said. “We should do what we can here and now.”