Yves Moreau

This book explores how by “making moral and political claims about defending the public from criminals and terrorists, international networks of scientists, police, and security agencies have developed forensic genetic technologies firmly embedded in hierarchies that target and exploit many Indigenous Peoples without their consent”. Chapter 11 adresses some of my own efforts to push back against ethically problematic research. Dr. Mark Munsterheljm is an assistant professor at the University of Windsor, ON, Canada. His research focuses on racism and ideology in genetic research on indigenous peoples.

“Such legislation would be significant,” Yves Moreau, a professor who researches the role of genomics in mass surveillance at the University of Leuven in Belgium, told The China Project. “It sends a powerful signal to U.S. companies that ‘playtime is over’ regarding the sale of mass surveillance technology to authoritarian regimes.” Moreau said the proposal to regulate the sale of U.S. gene tech balances out American restrictions aimed at Chinese businesses such as Hikvision for the role the cameras it makes play in the surveillance of Uyghurs — restrictions some critics say arose not as a move to protect human rights but as a salvo in the U.S.-China trade war.

Die tekortkomingen blijven niet zonder gevolgen. “Het betekent wel dat we intussen goed weten dat er in praktijk een serieus risico is op een bias ten opzichte van bepaalde groepen.” Hoe is het dan te verantwoorden om automatische gezichtsherkenning te gebruiken? “We moeten systemen bouwen die voldoende gevalideerd zijn en waarvan we weten hoe ze werken”, vindt Moreau. “Als je weet wat een systeem kan doen en wat niet, dan kan je ze gebruiken voor de juiste doeleinden. De aanwezige risico’s moet je in kaart brengen en inperken.”

« Il faut que les médecins garantissent une protection totale de ces données personnelles, poursuit Yves Moreau. Cela fait partie d’un contrat social fort qui permet la liberté d’interaction entre un patient et un médecin, entre un participant et un chercheur. C’est indispensable pour garder la confiance de la population envers la médecine ou la recherche, car on est rapidement à la limite du complotisme. »

Een ongeremde ontwikkeling van AI vormt een bedreiging voor de mensheid, zegt de gereputeerde Leuvense AI-expert Yves Moreau. “In mijn doembeeld treffen aliens over honderden jaren een aarde aan waar machines nog functioneren, maar de mens verdwenen is.”

“J’ai bien peur que ce monde ne devienne un parc d’attractions hanté: les manèges fonctionnent encore, sans relâche, tandis qu’aucun être humain n’est visible à l’horizon.”

Moreau pleit ervoor om op de rem te staan en maatregelen te nemen. ‘Regelgeving is een belangrijk traject, maar wellicht onvoldoende. Er is nood aan een cultuurverandering bij mensen die technologie ontwikkelen. Nu doet men dat omdat het cool is, of omdat er geld mee te verdienen valt. We zouden echter meer moeten nadenken voor wie en hoe we technologie maken. Onderzoekers moeten meer verantwoordelijkheid nemen.’

Professor Yves Moreau (KU Leuven) staat helemaal achter het verontrustende statement dat AI-specialisten van over de hele wereld gisteren ondertekenden. In een uitgebreid interview legt hij uit welke gevaren er dreigen, hoe we die kunnen aanpakken en welke kapitale fout de bedenkers van ChatGPT hebben gemaakt. “Ik vrees dat de wereld een spookpretpark wordt: alle molentjes en rollercoasters draaien nog, maar er is geen mens meer te zien.”

Een groep bedrijfsleiders en wetenschappers heeft dinsdag opgeroepen om van "het risico van uitsterven door artificiële intelligentie" een wereldwijde prioriteit te maken, "naast andere maatschappijrisico's zoals pandemieën en kernoorlogen". Yves Moreau, professor aan de KU Leuven, gespecialiseerd in artificiële intelligentie in de genetica, heeft het statement ook ondertekend. Hij legt uit waarom.

“We hebben de laatste maanden een krachtige technologische doorbraak gezien waarvan we de risico’s en gevolgen nog niet kunnen inschatten”, legt Moreau uit. “Het is als een schok gekomen, zelfs voor AI-specialisten.” De AI-modellen bleken een veel grotere capaciteit te hebben dan verwacht. Het is nog onduidelijk wat de gevolgen kunnen zijn, benadrukt Moreau, bijvoorbeeld op vlak van de verspreiding van desinformatie of voor de inhoud van jobs.

Een groep bedrijfsleiders en wetenschappers heeft dinsdag opgeroepen om van “het risico van uitsterven door artificiële intelligentie” een wereldwijde prioriteit te maken, “naast andere maatschappijrisico’s zoals pandemieën en kernoorlogen”. Ook een professor van de KU Leuven zette zijn handtekening onder het statement. “Het beperken van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn naast andere risico’s voor de samenleving zoals pandemieën en kernoorlogen.”

Prof Yves Moreau, from Leuven University in Belgium, who analyses genetic data, said he did not think that the new study, which he was not involved with, raised any “immediate concerns” in terms of authorities being able to track people. It was already known, Prof Moreau said, that people leave DNA in many locations, even on door handles, but the analysis of such “touch DNA” or “trace DNA” faces serious technical challenges, although they may be overcome by technology. “Currently the landscape around DNA collection is very unclear,” he said. “The American Civil Liberties Union has argued because we cannot control where our DNA goes. We need to have that privacy respected as if it’s on your person. “We need to have … a really good framework everywhere in the world that limits where and how our DNA is collected.”

Yves Moreau, professeur à l’Université de Louvain en Belgique et expert en intelligence artificielle et en génétique, modère quant à lui ces inquiétudes. Il explique à CNN que d’après lui, un scénario dans lequel la population serait traquée à l’aide du séquençage d’ADN trouvé dans les eaux usées serait « imaginable […] mais un peu tiré par les cheveux ». « Nous avons besoin d’un débat politique sur le respect de la vie privée [...], en particulier en ce qui concerne l’ADN. Mais il n’y a pas de raison de paniquer », conclut-il finalement.

Yves Moreau of KU Leuven, who studies both artificial intelligence and genetics and has warned that China is using mass collections of human DNA to help suppress minorities, agrees that any limits on research need to be carefully weighed with the potential benefits. At the same time, he says, “it is important to put this on everybody’s radar so that emerging risks and potential abuses can be identified early.” Fox concurs. “Which companies and governments are going to pay and license to have poop-based surveillance technology?” he asks. “Imputing people's identity based on their poop is compelling and interesting, for a number of reasons, and most of them are all the wrong reasons.”

Yves Moreau, a professor at the University of Leuven in Belgium who studies artificial intelligence and genetics and has shone a light on China’s DNA sampling of Tibetan and Uyghur minorities, said that while it was possible to imagine a scenario where “a mafia or dictatorship would track a protected witness or a political refugee” using waste water sequencing, it remained “a bit far fetched.” “We need a political discussion of expectations of privacy in the public space, in particular for DNA. We cannot avoid shedding DNA in the public space,” Moreau, who was not involved in this study, said via email. “We should however not panic, and I am always afraid of precautions that would make research grind to a halt. It is a delicate balance to find.”

The new documents highlight that “the abuses that led to the export controls against Xinjiang public security are not at all confined to Xinjiang,” Yves Moreau, a University of Leuven bioinformatician who discovered the Tibetan sale files, tells the Intercept.

dna collection appeals to authorities who have a “fetish for control”, says Yves Moreau of the University of Leuven in Belgium. “When you have different methods of surveillance and control available, you want everything.” That rings true of China under Xi Jinping, parts of which, such as Xinjiang, have come to resemble a panopticon. The president’s obsession with domestic security trickles down to local police. In a Tibetan part of Sichuan province they brag about acting as “telescopes and microscopes” and of collecting 158 items of “basic information” from households.