N. 189/2023
LE TRE NEWS DI OGGI:
- ONU, OMS HA PUBBLICATO UNA SERIE DI OSSERVAZIONI RISPETTO ALL’IMPIEGO DELL’AI IN CAMPO SANITARIO
- CANADA, TIKTOK DAVANTI ALLA COMMISSIONE D’INCHIESTA PARLAMENTARE
- NEPAL, ATTENZIONE SULLE VULNERABILITA’ PER I DATI PERSONALI
L’Organizzazione Mondiale della Sanità (OMS) ha diffuso una nuova pubblicazione che elenca le principali considerazioni normative sull’intelligenza artificiale (IA) per la salute. La pubblicazione sottolinea l’importanza di stabilire la sicurezza e l’efficacia dei sistemi di IA, di rendere rapidamente disponibili i sistemi appropriati a chi ne ha bisogno e di promuovere il dialogo tra le parti interessate, compresi gli sviluppatori, le autorità di regolamentazione, i produttori, gli operatori sanitari e i pazienti.Con la crescente disponibilità di dati sanitari e il rapido progresso delle tecniche analitiche – che si tratti di apprendimento automatico, logico o statistico – gli strumenti di IA potrebbero trasformare il settore sanitario. L’OMS riconosce il potenziale dell’IA nel migliorare i risultati sanitari, rafforzando gli studi clinici, migliorando la diagnosi medica, il trattamento, l’autocura e l’assistenza incentrata sulla persona e integrando le conoscenze, le abilità e le competenze degli operatori sanitari. Ad esempio, l’IA potrebbe essere utile in contesti in cui mancano medici specialisti, ad esempio per l’interpretazione di scansioni della retina e immagini radiologiche.Tuttavia, le tecnologie di IA – compresi i modelli linguistici di grandi dimensioni – vengono utilizzate rapidamente, a volte senza una piena comprensione delle loro prestazioni, che potrebbero essere vantaggiose o dannose per gli utenti finali, compresi gli operatori sanitari e i pazienti. Quando utilizzano i dati sanitari, i sistemi di intelligenza artificiale potrebbero avere accesso a informazioni personali sensibili, rendendo necessari solidi quadri giuridici e normativi per la salvaguardia della privacy, della sicurezza e dell’integrità, che questa pubblicazione intende contribuire a istituire e mantenere.”L’intelligenza artificiale è molto promettente per il settore sanitario, ma comporta anche serie sfide, tra cui la raccolta di dati non etici, le minacce alla sicurezza informatica e l’amplificazione dei pregiudizi o della disinformazione”, ha dichiarato Tedros Adhanom Ghebreyesus, Direttore generale dell’OMS. “Questa nuova guida aiuterà i Paesi a regolamentare l’IA in modo efficace, per sfruttarne il potenziale, che si tratti di curare il cancro o di individuare la tubercolosi, riducendo al minimo i rischi”. In risposta alle crescenti esigenze dei Paesi di gestire responsabilmente la rapida ascesa delle tecnologie sanitarie di IA, la pubblicazione delinea sei aree di regolamentazione dell’IA per la salute.
I parlamentari hanno interrogato una paio di dirigenti di TikTok sulla sicurezza della privacy dei canadesi e sulla possibilità che la Cina possa accedere ai dati della popolare app di social media durante una riunione della commissione parlamentare mercoledì. I dirigenti hanno ribadito più volte ai parlamentari della commissione per l’accesso alle informazioni, la privacy e l’etica che la Cina e il Partito Comunista Cinese al potere non sono in grado di visualizzare i dati degli utenti. Un dirigente ha affermato che la Cina non ha richiesto alcun dato.”Il governo cinese non ha rivendicato alcun diritto sui dati degli utenti di TikTok”, ha dichiarato David Lieber, responsabile delle politiche pubbliche sulla privacy di TikTok per le Americhe.La società proprietaria di TikTok, ByteDance, ha sede a Pechino. In base alle leggi cinesi sulla sicurezza nazionale, il governo può chiedere l’accesso alle informazioni degli utenti delle aziende cinesi.I dirigenti hanno ammesso che i dati canadesi di TikTok sono ospitati negli Stati Uniti, in Malesia e a Singapore. Nell’ultimo anno, i funzionari canadesi e di tutto il mondo hanno esaminato TikTok per presunti problemi di sicurezza. A febbraio, il governo federale ha vietato l’applicazione da tutti i telefoni in dotazione al governo, a seguito di una verifica da parte del responsabile delle informazioni del Canada.Altri Paesi, come gli Stati Uniti e il Regno Unito, hanno seguito l’esempio vietando TikTok dai loro dispositivi governativi. Uno stato americano, il Montana, si è spinto oltre, vietando del tutto l’app a partire dal 1° gennaio 2024. Nel frattempo, i commissari canadesi per la privacy, federali e provinciali, stanno conducendo un’indagine congiunta sulla conformità di TikTok alle leggi sulla privacy. I commissari affermano di voler determinare se l’azienda sta rispettando i suoi “obblighi di trasparenza” quando raccoglie informazioni personali dagli utenti.Steve de Eyre, direttore delle politiche pubbliche e degli affari governativi di TikTok Canada, ha negato le affermazioni secondo cui ByteDance sarebbe “di proprietà o controllata dal governo cinese”. Eyre e Leiber hanno affermato che ByteDance ha uffici in tutto il mondo e tre dei cinque membri del consiglio di amministrazione sono americani.
La rapida adozione delle tecnologie digitali in Nepal ha aumentato la quantità di dati personali generati e raccolti dai cittadini. Tuttavia, il Paese non dispone di una legislazione completa per la protezione dei dati, che li espone a potenziali abusi e malversazioni. Recenti episodi hanno dimostrato le conseguenze reali del fallimento delle politiche di protezione dei dati. Durante la pandemia Covid-19, le agenzie governative e private hanno raccolto numerosi dati sanitari dai cittadini in cerca di test o vaccini. La pandemia è diventata una scusa per giustificare il mancato rispetto dei diritti fondamentali dei cittadini nepalesi alla privacy dei dati. I cittadini non avevano alcun controllo sulle loro informazioni mediche e personali sensibili. Nessuna garanzia impediva che i loro dati venissero condivisi con terze parti, conservati a tempo indeterminato, fusi con altri insiemi di dati o utilizzati per la sorveglianza o la profilazione non autorizzata. I casi di acquisizione da parte di giganti tecnologici di importanti startup nepalesi hanno ulteriormente amplificato la paura per la protezione dei dati. Quando aziende cinesi e indiane hanno acquistato piattaforme come Daraz e Sastodeal, i dati degli utenti nepalesi sono finiti sotto il controllo di società straniere senza un esplicito consenso. Inoltre, le autorità di regolamentazione non hanno potuto fare molto a causa della mancanza di protezioni per la localizzazione dei dati o di restrizioni al trasferimento transfrontaliero. I cittadini erano preoccupati per il rischio che le loro informazioni personali fossero accessibili o elaborate in modi che violavano i loro diritti. Si è diffuso l’invito al governo a promulgare una legge completa sulla protezione dei dati che stabilisca chiari requisiti di consenso, limitazioni delle finalità e restrizioni alla raccolta, alla conservazione e alla condivisione di dati eccessivi. È necessario stabilire delle salvaguardie legali per dare ai nepalesi il controllo sui propri dati e garantire una gestione etica degli stessi. Il flusso di dati aperti del Nepal porta i cittadini a essere soggetti a regimi di sorveglianza come il Sistema centrale di monitoraggio dell’India e le leggi cinesi sulla sicurezza informatica senza controlli democratici. Questo fa sì che i dati personali degli utenti vengano sfruttati, monetizzati e potenzialmente manipolati dallo Stato e dalle aziende. Questi pericoli si sono concretizzati nello scandalo di Cambridge Analytica durante le elezioni del 2017 in Nepal. Non è stato possibile condurre indagini sull’influenza non etica delle scelte degli elettori attraverso la profilazione psicografica e la disinformazione mirata a causa della mancanza di un’autorità di regolamentazione dei dati. I dati dei nepalesi sono stati impunemente utilizzati contro i loro interessi. Le recenti violazioni dei dati di Ncell e NTC hanno compromesso le informazioni finanziarie dei cittadini, le registrazioni delle chiamate, i dati di localizzazione, ecc. Tuttavia, in assenza di standard di sicurezza, Nepal Telecom non ha dovuto affrontare alcuna sanzione da parte di alcuna autorità competente per tale negligenza. I cittadini di tutto il mondo stanno ora affermando il controllo sui propri dati attraverso requisiti di consenso, protocolli di minimizzazione, limitazioni di scopo, ecc. Tuttavia, il Nepal rimane privo di questi diritti riconosciuti a livello internazionale. È necessario emanare norme complete per ottenere il consenso informato, raccogliere dati minimi, imporre sanzioni severe in caso di violazione e conservare i dati per scopi limitati.
English version
- UN, WHO HAS PUBLISHED A SERIES OF OBSERVATIONS WITH RESPECT TO THE USE OF AI IN THE HEALTHCARE FIELD
- CANADA, TIKTOK BEFORE PARLIAMENTARY COMMISSION OF INVESTIGATION
- NEPAL, BEWARE OF VULNERABILITIES FOR PERSONAL DATA
The World Health Organization (WHO) has released a new publication listing key regulatory considerations on artificial intelligence (AI) for health. The publication emphasizes the importance of establishing AI systems’ safety and effectiveness, rapidly making appropriate systems available to those who need them, and fostering dialogue among stakeholders, including developers, regulators, manufacturers, health workers, and patients.With the increasing availability of health care data and the rapid progress in analytic techniques – whether machine learning, logic-based or statistical – AI tools could transform the health sector. WHO recognizes the potential of AI in enhancing health outcomes by strengthening clinical trials; improving medical diagnosis, treatment, self-care and person-centred care; and supplementing health care professionals’ knowledge, skills and competencies. For example, AI could be beneficial in settings with a lack of medical specialists, e.g. in interpreting retinal scans and radiology images among many others.However, AI technologies – including large language models – are being rapidly deployed, sometimes without a full understanding of how they may perform, which could either benefit or harm end-users, including health-care professionals and patients. When using health data, AI systems could have access to sensitive personal information, necessitating robust legal and regulatory frameworks for safeguarding privacy, security, and integrity, which this publication aims to help set up and maintain.“Artificial intelligence holds great promise for health, but also comes with serious challenges, including unethical data collection, cybersecurity threats and amplifying biases or misinformation,” said Dr Tedros Adhanom Ghebreyesus, WHO Director-General. “This new guidance will support countries to regulate AI effectively, to harness its potential, whether in treating cancer or detecting tuberculosis, while minimising the risks.” In response to growing country needs to responsibly manage the rapid rise of AI health technologies, the publication outlines six areas for regulation of AI for health.
Parliamentarians grilled a pair of TikTok executives on the security of Canadians’ privacy — and whether China can access the popular social media app’s data — during a House committee meeting on Wednesday.The executives repeatedly told MPs on the access to information, privacy and ethics committee that China and the ruling Chinese Communist Party are not able to view user data. One executive said China has not requested any data at all.”The Chinese government has not asserted the rights over any TikTok user data,” said David Lieber, head of TikTok’s privacy public policy for the Americas.TikTok’s corporate owner, ByteDance, is based in Beijing. Under Chinese national security laws, the government can demand access to Chinese companies’ user information.The executives did acknowledge that Canadian TikTok data is hosted in the U.S., Malaysia and Singapore. They pointed out that TikTok’s operations in Canada are subject to Canadian privacy laws.Over the past year, officials in Canada and around the world have scrutinized TikTok over alleged security issues. In February, the federal government banned the app from all government-issued phones following a review by Canada’s chief information officer.Other countries like the U.S. and U.K. followed suit by banning TikTok from their government devices. One U.S. state, Montana, went even further by banning the app altogether starting on Jan. 1, 2024. TikTok has filed a lawsuit contesting the legislation.Meanwhile, Canadian federal and provincial privacy commissioners are conducting a joint investigation into TikTok’s compliance with privacy laws. The commissioners say they want to determine if the company is meeting its “transparency obligations” when collecting personal information from users.Steve de Eyre, director of public policy and government affairs for TikTok Canada, denied claims that ByteDance is “owned or controlled by the Chinese government.” Eyre and Leiber said that ByteDance has offices around the world and three of its five board members are American.
The rapid adoption of digital technologies in Nepal has increased the generation and collection of personal data from citizens. However, the country lacks comprehensive legislation for data protection, exposing it to potential misuse and abuse. Recent incidents have demonstrated the real-world consequences of the policy failure on data protection. During the Covid-19 pandemic, government and private agencies collected extensive health data from citizens seeking tests or vaccines. The pandemic became an excuse to normalise disregard for Nepali citizens’ fundamental rights to data privacy. The citizens had no control over their sensitive medical and personal information. No guarantees prevented their data from being shared with third parties, retained indefinitely, merged with other datasets, or used for unauthorised surveillance or profiling.Cases of tech giants acquiring major Nepali startups have further amplified fear over data protection. When Chinese and Indian firms purchased platforms like Daraz and Sastodeal, Nepali users’ data came under foreign corporate control without explicit consent. Moreover, regulators couldn’t do much due to the lack of data localisation protections or cross-border transfer restrictions. Citizens were concerned about the risk of their personal information being accessed or processed in ways that violated their rights. There were widespread calls for the government to enact a comprehensive data protection law establishing clear consent requirements, purpose limitations and restrictions on excessive data collection, retention and sharing. Legal safeguards must be set to give Nepalis control over their data as well as ensure ethical handling of the data.Nepal’s open data flow leads to citizens being subject to surveillance regimes like India’s Central Monitoring System and China’s cybersecurity laws without democratic checks. This results in users’ personal data being exploited, monetised and potentially manipulated by the state and corporate actors. These dangers came to pass in the Cambridge Analytica scandal during Nepal’s 2017 elections. Investigations could not be conducted about the unethical influence of voters’ choices through psychographic profiling and targeted disinformation due to the lack of an empowered data regulator. The data of Nepalis were weaponised against their interests with impunity. The recent Ncell and NTC data breaches compromised citizens’ financial information, call records, location data, etc. However, without security standards, Nepal Telecom faced no penalties from any empowered authority for such negligence. Citizens worldwide are now asserting control over their data through consent requirements, minimisation protocols, purpose limitations, etc. However, Nepal remains deprived of these internationally recognised rights. Comprehensive norms must be enacted for obtaining informed consent, collecting minimal data, imposing stiff penalties during violations and retention for limited purposes.
