China’s quest for human genetic data spurs fears of a DNA arms race

The singling out of ethnic minorities is intentional, human rights groups say. In the hands of Chinese police officers, biometric data is a powerful tool for identifying people regarded as potential troublemakers. DNA samples can link suspects to protests or help police locate family members who might be subjected to pressure over a relative’s behavior. “It is part of the architecture of social control, and it’s a very effective psychological pressure tool,” said Yves Moreau, a Belgian computational biologist who writes about the misuse of artificial intelligence and genetic data by governments for surveillance or repression. “Whether the DNA database is effective, there’s a fear that is induced by the large-scale deployment of this technology.”

Forensic Colonialism | New book by Mark Munsterheljm

This book explores how by “making moral and political claims about defending the public from criminals and terrorists, international networks of scientists, police, and security agencies have developed forensic genetic technologies firmly embedded in hierarchies that target and exploit many Indigenous Peoples without their consent”. Chapter 11 adresses some of my own efforts to push back against ethically problematic research. Dr. Mark Munsterheljm is an assistant professor at the University of Windsor, ON, Canada. His research focuses on racism and ideology in genetic research on indigenous peoples.

U.S. lawmakers want to restrict sales of gene sequencing tech to China – The China Project

“Such legislation would be significant,” Yves Moreau, a professor who researches the role of genomics in mass surveillance at the University of Leuven in Belgium, told The China Project. “It sends a powerful signal to U.S. companies that ‘playtime is over’ regarding the sale of mass surveillance technology to authoritarian regimes.” Moreau said the proposal to regulate the sale of U.S. gene tech balances out American restrictions aimed at Chinese businesses such as Hikvision for the role the cameras it makes play in the surveillance of Uyghurs — restrictions some critics say arose not as a move to protect human rights but as a salvo in the U.S.-China trade war.

Gearresteerd voor een carjacking waar ze niets mee te maken had: gezichtsherkenning leidt tot valse beschuldiging

Die tekortkomingen blijven niet zonder gevolgen. “Het betekent wel dat we intussen goed weten dat er in praktijk een serieus risico is op een bias ten opzichte van bepaalde groepen.” Hoe is het dan te verantwoorden om automatische gezichtsherkenning te gebruiken? “We moeten systemen bouwen die voldoende gevalideerd zijn en waarvan we weten hoe ze werken”, vindt Moreau. “Als je weet wat een systeem kan doen en wat niet, dan kan je ze gebruiken voor de juiste doeleinden. De aanwezige risico’s moet je in kaart brengen en inperken.”

L’ADN, nouvelle arme de surveillance de masse

« Il faut que les médecins garantissent une protection totale de ces données personnelles, poursuit Yves Moreau. Cela fait partie d’un contrat social fort qui permet la liberté d’interaction entre un patient et un médecin, entre un participant et un chercheur. C’est indispensable pour garder la confiance de la population envers la médecine ou la recherche, car on est rapidement à la limite du complotisme. »

Experts trekken aan de alarmbel: ‘AI kan leiden tot uitsterven van de mensheid’

Moreau pleit ervoor om op de rem te staan en maatregelen te nemen. ‘Regelgeving is een belangrijk traject, maar wellicht onvoldoende. Er is nood aan een cultuurverandering bij mensen die technologie ontwikkelen. Nu doet men dat omdat het cool is, of omdat er geld mee te verdienen valt. We zouden echter meer moeten nadenken voor wie en hoe we technologie maken. Onderzoekers moeten meer verantwoordelijkheid nemen.’

De kapitale fout van de makers van ChatGPT: “Ja, AI kan het einde van de mens betekenen”

Professor Yves Moreau (KU Leuven) staat helemaal achter het verontrustende statement dat AI-specialisten van over de hele wereld gisteren ondertekenden. In een uitgebreid interview legt hij uit welke gevaren er dreigen, hoe we die kunnen aanpakken en welke kapitale fout de bedenkers van ChatGPT hebben gemaakt. “Ik vrees dat de wereld een spookpretpark wordt: alle molentjes en rollercoasters draaien nog, maar er is geen mens meer te zien.”

[Radio] Wetenschappers zetten gevaren AI naast die van kernoorlog: "Weten niet genoeg wat de impact is van recente doorbraken"

Een groep bedrijfsleiders en wetenschappers heeft dinsdag opgeroepen om van "het risico van uitsterven door artificiële intelligentie" een wereldwijde prioriteit te maken, "naast andere maatschappijrisico's zoals pandemieën en kernoorlogen". Yves Moreau, professor aan de KU Leuven, gespecialiseerd in artificiële intelligentie in de genetica, heeft het statement ook ondertekend. Hij legt uit waarom.

Experts vergelijken de gevaren van AI met pandemieën en kernoorlogen: ‘Kan einde van de mensheid betekenen’

“We hebben de laatste maanden een krachtige technologische doorbraak gezien waarvan we de risico’s en gevolgen nog niet kunnen inschatten”, legt Moreau uit. “Het is als een schok gekomen, zelfs voor AI-specialisten.” De AI-modellen bleken een veel grotere capaciteit te hebben dan verwacht. Het is nog onduidelijk wat de gevolgen kunnen zijn, benadrukt Moreau, bijvoorbeeld op vlak van de verspreiding van desinformatie of voor de inhoud van jobs.

Wetenschappers zetten gevaren AI naast die van pandemie en kernoorlog: “Dit zou een wereldwijde prioriteit moeten zijn”

Een groep bedrijfsleiders en wetenschappers heeft dinsdag opgeroepen om van “het risico van uitsterven door artificiële intelligentie” een wereldwijde prioriteit te maken, “naast andere maatschappijrisico’s zoals pandemieën en kernoorlogen”. Ook een professor van de KU Leuven zette zijn handtekening onder het statement. “Het beperken van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn naast andere risico’s voor de samenleving zoals pandemieën en kernoorlogen.”

Study shows we leave a trail of DNA behind us - even on the beach

Prof Yves Moreau, from Leuven University in Belgium, who analyses genetic data, said he did not think that the new study, which he was not involved with, raised any “immediate concerns” in terms of authorities being able to track people. It was already known, Prof Moreau said, that people leave DNA in many locations, even on door handles, but the analysis of such “touch DNA” or “trace DNA” faces serious technical challenges, although they may be overcome by technology. “Currently the landscape around DNA collection is very unclear,” he said. “The American Civil Liberties Union has argued because we cannot control where our DNA goes. We need to have that privacy respected as if it’s on your person. “We need to have … a really good framework everywhere in the world that limits where and how our DNA is collected.”

Les scientifiques peuvent pister votre ADN dans l’eau, le sable, et même dans l’air

Yves Moreau, professeur à l’Université de Louvain en Belgique et expert en intelligence artificielle et en génétique, modère quant à lui ces inquiétudes. Il explique à CNN que d’après lui, un scénario dans lequel la population serait traquée à l’aide du séquençage d’ADN trouvé dans les eaux usées serait « imaginable […] mais un peu tiré par les cheveux ». « Nous avons besoin d’un débat politique sur le respect de la vie privée [...], en particulier en ce qui concerne l’ADN. Mais il n’y a pas de raison de paniquer », conclut-il finalement.

Privacy concerns sparked by human DNA accidentally collected in studies of other species

Yves Moreau of KU Leuven, who studies both artificial intelligence and genetics and has warned that China is using mass collections of human DNA to help suppress minorities, agrees that any limits on research need to be carefully weighed with the potential benefits. At the same time, he says, “it is important to put this on everybody’s radar so that emerging risks and potential abuses can be identified early.” Fox concurs. “Which companies and governments are going to pay and license to have poop-based surveillance technology?” he asks. “Imputing people's identity based on their poop is compelling and interesting, for a number of reasons, and most of them are all the wrong reasons.”

Human DNA can now be pulled from thin air and sequenced

Yves Moreau, a professor at the University of Leuven in Belgium who studies artificial intelligence and genetics and has shone a light on China’s DNA sampling of Tibetan and Uyghur minorities, said that while it was possible to imagine a scenario where “a mafia or dictatorship would track a protected witness or a political refugee” using waste water sequencing, it remained “a bit far fetched.” “We need a political discussion of expectations of privacy in the public space, in particular for DNA. We cannot avoid shedding DNA in the public space,” Moreau, who was not involved in this study, said via email. “We should however not panic, and I am always afraid of precautions that would make research grind to a halt. It is a delicate balance to find.”

[Panel] China's DNA Steal: Thermo Fisher and the Ethics of DNA Collection in Tibet

As part of a 'HANDS OFF TIBETANS' DNA' Global Week of Action an expert panel of researchers, scientists and activists will discuss the ethics of mass DNA collection in Tibet, primarily focusing on breaking down Thermo Fisher's corporate responsibility and their involvement in China’s newest attack on Tibetan identity. Panelists will be discussing issues of privacy and consent, including how this DNA sampling and collection is being used to reinforce systemic racism and discrimination by China against Tibetans.

China’s government is mass-collecting DNA from Tibetans

dna collection appeals to authorities who have a “fetish for control”, says Yves Moreau of the University of Leuven in Belgium. “When you have different methods of surveillance and control available, you want everything.” That rings true of China under Xi Jinping, parts of which, such as Xinjiang, have come to resemble a panopticon. The president’s obsession with domestic security trickles down to local police. In a Tibetan part of Sichuan province they brag about acting as “telescopes and microscopes” and of collecting 158 items of “basic information” from households.
Load More Articles