ΗΠΑ - ΚΙΝΑ : Η νέα αποικιοκρατία των προσωπικών δεδομένων
Μπροστά σε μια νέα μορφή «αποικιοκρατίας», αυτή τη φορά ηλεκτρονικής, με υπερόπλο την τεχνητή νοημοσύνη βρίσκεται ο πλανήτης.
Who Will Win the Race for AI?
China and the United States are leading the pack—and the laggards face grave dangers.
The race to develop artificial intelligence (AI) is gathering momentum, and as the United States and China pull ahead, other countries, especially in the developing world, are lagging far behind. If they don’t catch up, their economic and political prospects will be grim
For those countries at the back of the pack, the economic challenges will be hard enough: In an automated world, there will be far less demand for the unskilled labor they’ve typically provided. But the political dangers will be equally daunting. AI already makes it possible to hack human beings—to collect data about individuals and then use it to decipher, predict, and manipulate their desires. For example, reporting by a number of newspapers revealed that Cambridge Analytica had done just that with American voters’ Facebook data.
All countries, regardless of whether they are tech superpowers or not, will feel the effects of the AI revolution.
But there’s an added challenge for those left behind in the race. To hack humans, governments and corporations need access to enormous amounts of information about real-life human behavior, which makes data perhaps the most important resource in the world. But most of the world’s data is mined by the United States, China, and companies based there.
If this trend continues, the world could soon witness a new kind of colonialism—data colonialism—in which raw information is mined in numerous countries, processed mainly in the imperial hub, and then used to exercise control throughout the world. For example, data giants in San Francisco or Shanghai could compile the entire medical and personal history of politicians and officials in distant countries and use it to influence them or manipulate public opinion about them.
Beyond that, those who control the data could eventually reshape not only the world’s economic and political future but also the future of life itself. The combination of AI and biotechnology will be critical for any future attempts to redesign bodies, brains, and minds. Elites in the United States and China who have access to those technologies could determine the course of evolution for everyone, according to their particular values and interests. Abilities they deem useful, such as discipline and rote intelligence, might be enhanced at the cost of attributes believed to be superfluous, such as spirituality.
Those left behind in the race to hack humans have two options: join or regulate.
It is unlikely that smaller countries will be able to single-handedly produce their own Google or Baidu. A joint effort by the 28 members of the European Union or by Latin America’s Southern Cone countries, however, might succeed. To increase their chances of doing so, they could focus on areas that the front-runners have so far neglected. Until now, the development of AI has focused on systems that enable corporations and governments to monitor individuals. Yet the world needs the opposite, too: ways for individuals to monitor corporations and governments. By building improved tools to fight corruption or address police brutality, for example, latecomers to the race could carve out a niche for themselves and also become a check on the data superpowers.
Alternatively, countries that can’t compete with the AI front-runners can at least try to regulate the race. They can lead initiatives to build tough legal regimes around the most dangerous emerging technologies, such as autonomous weapon systems or enhanced superhumans. And much as countries create laws to protect their own natural resources, they can start to do the same for their data. International mining companies have to pay something to the countries where they dig up iron ore, and the same should go for tech companies collecting data.
This is particularly true when mining that data might cause harm to the local population. For example, a crucial stage in the process of developing autonomous vehicles involves allowing them to drive under real-life conditions, collecting data on the mishaps, and then using this data to perfect the technology. Developed countries have already placed strict limitations on autonomous vehicles—which will likely last until those vehicles’ safety is guaranteed—and so corporations might be tempted to begin testing the technology in developing countries where regulations are laxer and where fatal accidents would raise fewer eyebrows. Something similar might happen with medical data, which could be mined on the cheap in developing countries with weak privacy laws but then collected and processed in the AI hub, which would reap most of the benefits of the research.
It is not too soon for the countries that provide crucial data to start demanding better returns. They could create an organization of data-exporting countries, for example, that would vastly expand their leverage over the world’s Amazons and Alibabas. And if they start sharing in the profits of data collection, they would have some means for coping with the economic shocks that will come as robots replace textile workers and truck drivers.
It is far from certain that the world’s weaker states can avoid being data-colonized. But they have to try. If they bury their heads in the ground, focus on their immediate problems, and ignore the AI race, their fate will be decided in their absence.
This article originally appeared in the Winter 2019 issue of Foreign Policy magazine.
https://foreignpolicy.com/gt-essay/who-will-win-the-race-for-ai-united-states-china-data/
Η ανάλυση του Foreign Policy δεν αφήνει πολλά περιθώρια αισιοδοξίας για τη «νέα τάξη πραγμάτων» που αναδύεται ήδη.
Δεν πρόκειται καν για δυστοπία. Ο ανταγωνισμός για την ανάπτυξη της τεχνητής νοημοσύνης κυριαρχεί όλο και περισσότερο, και καθώς οι Ηνωμένες Πολιτείες και η Κίνα προχωρούν, άλλες χώρες, ιδίως στον αναπτυσσόμενο κόσμο, υστερούν πολύ. Αν δεν προλάβουν τις συνέπειες, οι οικονομικές και πολιτικές προοπτικές τους θα είναι ζοφερές.
Γι’ αυτές τις χώρες, οι οικονομικές προκλήσεις θα είναι σχεδόν ανυπέρβλητες:
- Σε έναν αυτοματοποιημένο κόσμο, θα υπάρξει πολύ λιγότερη ζήτηση για ανειδίκευτη εργασία.
- Οι πολιτικοί κίνδυνοι θα είναι εξίσου τρομακτικοί. Η τεχνητή νοημοσύνη καθιστά ήδη δυνατή το «χακάρισμα»…. του ανθρώπου, συλλέγοντας δεδομένα και στη συνέχεια χρησιμοποιώντας τα για να αποκρυπτογραφήσει, να προβλέψει και να διαχειριστεί τις επιθυμίες του. Η Cambridge Analytica είχε κάνει ακριβώς αυτό με τα δεδομένα των Αμερικανών ψηφοφόρων στο Facebook.
Όλες οι χώρες, ανεξάρτητα από το εάν είναι τεχνολογικές υπερδυνάμεις ή όχι, θα αισθανθούν τα αποτελέσματα της επανάστασης της τεχνητής νοημοσύνης. Αλλά υπάρχει ακόμη μια μεγάλη, δυσάρεστη συνέπεια για όσες μείνουν πίσω. Για να «χακάρουν» τους ανθρώπους, οι κυβερνήσεις και οι επιχειρήσεις χρειάζονται πρόσβαση σε τεράστιες ποσότητες πληροφοριών σχετικά με την ανθρώπινη συμπεριφορά στην πραγματική ζωή, γεγονός που καθιστά τα δεδομένα ίσως τον σημαντικότερο πόρο στον κόσμο αυτή τη στιγμή.
Αλλά τα περισσότερα τέτοια δεδομένα «εξορύσσονται» από τις Ηνωμένες Πολιτείες, την Κίνα και τις εταιρείες που εδρεύουν εκεί. Αν συνεχιστεί αυτή η τάση, ο κόσμος θα μπορούσε σύντομα να γνωρίσει ένα νέο είδος αποικιοκρατίας - της αποικιοκρατίας των δεδομένων - στον οποίο θα «εξορύσσονται» πρωτογενείς πληροφορίες σε πολλές χώρες, θα επεξεργάζονται κυρίως στον «αυτοκρατορικό« κόμβο και στη συνέχεια θα χρησιμοποιούνται για να ασκούν έλεγχο σε όλο τον κόσμο. Για παράδειγμα, οι γίγαντες δεδομένων στο Σαν Φραντσίσκο ή στη Σαγκάη θα μπορούσαν να συγκεντρώσουν ολόκληρη την ιατρική και προσωπική ιστορία πολιτικών και αξιωματούχων σε μακρινές χώρες και να την χρησιμοποιήσουν για να τους επηρεάσουν ή να χειραγωγήσουν την κοινή γνώμη σε σχέση με εκείνους.
Επίσης, όσοι ελέγχουν τα δεδομένα θα μπορούσαν τελικά να αναμορφώσουν όχι μόνο το οικονομικό και πολιτικό μέλλον του κόσμου αλλά και το μέλλον της ίδιας της ζωής. Ο συνδυασμός της τεχνητής νοημοσύνης και της βιοτεχνολογίας θα είναι κρίσιμος για οποιεσδήποτε μελλοντικές προσπάθειες επανασχεδιασμού των οργάνων, των εγκεφάλων και των μυαλών. Οι ελίτ στις Ηνωμένες Πολιτείες και στην Κίνα που έχουν πρόσβαση σε αυτές τις τεχνολογίες θα μπορούσαν να καθορίσουν την πορεία της εξέλιξης για όλους, ανάλογα με τις ιδιαίτερες δεξιότητες και τα ενδιαφέροντά τους. Οι ικανότητες που θεωρούνται χρήσιμες, όπως η πειθαρχία και η αποστήθιση, μπορεί να ενισχυθούν σε το βάρος των χαρακτηριστικών που πιστεύεται ότι είναι «περιττά», όπως η πνευματικότητα, ή ακόμη και η συναισθηματική νοημοσύνη.
«Οδοφράγματα»
«Οδοφράγματα»
Είναι απίθανο οι μικρότερες χώρες να είναι σε θέση να δημιουργήσουν μόνοι τους τη δική τους Google ή Baidu. Ωστόσο, μια κοινή προσπάθεια από τα 28 μέλη της Ευρωπαϊκής Ένωσης ή από τις χώρες της Λατινικής Αμερικής μπορεί να πετύχει. Για να αυξήσουν τις πιθανότητες να το καταφέρουν, θα μπορούσαν να επικεντρωθούν σε περιοχές για τις οποίες οι πρωτοπόροι δεν ενδιαφέρονται μέχρι στιγμής. Μέχρι τώρα, η ανάπτυξη της τεχνητής νοημοσύνης έχει επικεντρωθεί σε συστήματα που επιτρέπουν στις εταιρείες και τις κυβερνήσεις να παρακολουθούν τους ανθρώπους. Ωστόσο, ο κόσμος χρειάζεται και το αντίθετο: Τρόπους με τους οποίους οι άνθρωποι μπορούν να παρακολουθούν τις επιχειρήσεις και τις κυβερνήσεις. Με την δημιουργία βελτιωμένων μέσων για την καταπολέμηση της διαφθοράς ή την αντιμετώπιση της αστυνομικής βίας, για παράδειγμα, όσοι υστερούν στον ανταγωνισμό θα μπορούσαν να αποκτήσουν μια θέση για τον εαυτό τους και επίσης να γίνουν ο έλεγχος στις υπερδυνάμεις δεδομένων.
Εναλλακτικά, οι χώρες αυτές μπορούν τουλάχιστον να προσπαθήσουν να ρυθμίσουν την «κούρσα» του ανταγωνισμού. Μπορούν να μπουν μπροστά σε πρωτοβουλίες ώστε να υιοθετηθούν σκληρά νομικά καθεστώτα γύρω από τις πιο επικίνδυνες αναδυόμενες τεχνολογίες, όπως τα αυτόνομα συστήματα όπλων και τη δημιουργία «υπερανθρώπων». Όπως οι χώρες δημιουργούν νόμους για την προστασία των φυσικών πόρων τους, μπορούν να αρχίσουν να κάνουν το ίδιο και για τα δεδομένα των πολιτών τους. Και όπως οι μεγάλες εταιρείες εξόρυξης πρέπει να πληρώσουν κάτι στις χώρες από όπου εξορύσσουν μεταλλεύματα, το ίδιο πρέπει να συμβαίνει και για τις εταιρείες τεχνολογίας που συλλέγουν δεδομένα.
Αυτό, λέει το Foreign Policy, ισχύει ιδιαίτερα όταν «εξορύσσονται» δεδομένα που μπορεί να βλάψουν τον πληθυσμό. Για παράδειγμα, ένα κρίσιμο στάδιο στη διαδικασία ανάπτυξης αυτόνομων οχημάτων προϋποθέτει τη δυνατότητα οδήγησης σε συνθήκες πραγματικής ζωής, τη συλλογή δεδομένων σχετικά με τις αστοχίες και στη συνέχεια τη χρήση αυτών των δεδομένων για την τελειοποίηση της τεχνολογίας. Οι αναπτυγμένες χώρες έχουν ήδη θέσει αυστηρούς περιορισμούς στα αυτόνομα οχήματα - τα οποία πιθανόν θα διαρκέσουν έως ότου διασφαλιστεί η ασφάλεια των οχημάτων αυτών - και έτσι οι εταιρείες ενδέχεται να μπουν στον πειρασμό να δοκιμάσουν την τεχνολογία στις αναπτυσσόμενες χώρες όπου οι κανονισμοί είναι πιο χαλαροί και όπου τα θανατηφόρα ατυχήματα θα προκαλούσαν λιγότερα προβλήματα γι’ αυτές. Κάτι παρόμοιο μπορεί να συμβεί με τα ιατρικά δεδομένα, τα οποία θα μπορούσαν να «εξορύσσονται» φθηνά σε αναπτυσσόμενες χώρες με χαλαρούς νόμους περί απορρήτου και προσωπικών δεδομένων, αλλά στη συνέχεια να συλλέγονται και να υποβάλλονται σε επεξεργασία σε υπερκόμβους τεχνητής νοημοσύνης, αποκομίζοντας τα περισσότερα οφέλη της έρευνας.
Πάντως, το Foreign Policy σημειώνει πως δεν είναι καθόλου βέβαιο ότι τα ασθενέστερα κράτη του κόσμου μπορούν να αποφύγουν την αποικιοποίηση των δεδομένων τους. Αλλά πρέπει να προσπαθήσουν. Εάν στρουθοκαμηλίσουν, αγνοώντας τον ανταγωνισμό της τεχνητής νοημοσύνης, η μοίρα τους θα αποφασιστεί χωρίς αυτές.
Who Will Win the Race for AI?
China and the United States are leading the pack—and the laggards face grave dangers.
The race to develop artificial intelligence (AI) is gathering momentum, and as the United States and China pull ahead, other countries, especially in the developing world, are lagging far behind. If they don’t catch up, their economic and political prospects will be grim
For those countries at the back of the pack, the economic challenges will be hard enough: In an automated world, there will be far less demand for the unskilled labor they’ve typically provided. But the political dangers will be equally daunting. AI already makes it possible to hack human beings—to collect data about individuals and then use it to decipher, predict, and manipulate their desires. For example, reporting by a number of newspapers revealed that Cambridge Analytica had done just that with American voters’ Facebook data.
All countries, regardless of whether they are tech superpowers or not, will feel the effects of the AI revolution.
But there’s an added challenge for those left behind in the race. To hack humans, governments and corporations need access to enormous amounts of information about real-life human behavior, which makes data perhaps the most important resource in the world. But most of the world’s data is mined by the United States, China, and companies based there.
If this trend continues, the world could soon witness a new kind of colonialism—data colonialism—in which raw information is mined in numerous countries, processed mainly in the imperial hub, and then used to exercise control throughout the world. For example, data giants in San Francisco or Shanghai could compile the entire medical and personal history of politicians and officials in distant countries and use it to influence them or manipulate public opinion about them.
Beyond that, those who control the data could eventually reshape not only the world’s economic and political future but also the future of life itself. The combination of AI and biotechnology will be critical for any future attempts to redesign bodies, brains, and minds. Elites in the United States and China who have access to those technologies could determine the course of evolution for everyone, according to their particular values and interests. Abilities they deem useful, such as discipline and rote intelligence, might be enhanced at the cost of attributes believed to be superfluous, such as spirituality.
Those left behind in the race to hack humans have two options: join or regulate.
It is unlikely that smaller countries will be able to single-handedly produce their own Google or Baidu. A joint effort by the 28 members of the European Union or by Latin America’s Southern Cone countries, however, might succeed. To increase their chances of doing so, they could focus on areas that the front-runners have so far neglected. Until now, the development of AI has focused on systems that enable corporations and governments to monitor individuals. Yet the world needs the opposite, too: ways for individuals to monitor corporations and governments. By building improved tools to fight corruption or address police brutality, for example, latecomers to the race could carve out a niche for themselves and also become a check on the data superpowers.
Alternatively, countries that can’t compete with the AI front-runners can at least try to regulate the race. They can lead initiatives to build tough legal regimes around the most dangerous emerging technologies, such as autonomous weapon systems or enhanced superhumans. And much as countries create laws to protect their own natural resources, they can start to do the same for their data. International mining companies have to pay something to the countries where they dig up iron ore, and the same should go for tech companies collecting data.
This is particularly true when mining that data might cause harm to the local population. For example, a crucial stage in the process of developing autonomous vehicles involves allowing them to drive under real-life conditions, collecting data on the mishaps, and then using this data to perfect the technology. Developed countries have already placed strict limitations on autonomous vehicles—which will likely last until those vehicles’ safety is guaranteed—and so corporations might be tempted to begin testing the technology in developing countries where regulations are laxer and where fatal accidents would raise fewer eyebrows. Something similar might happen with medical data, which could be mined on the cheap in developing countries with weak privacy laws but then collected and processed in the AI hub, which would reap most of the benefits of the research.
It is not too soon for the countries that provide crucial data to start demanding better returns. They could create an organization of data-exporting countries, for example, that would vastly expand their leverage over the world’s Amazons and Alibabas. And if they start sharing in the profits of data collection, they would have some means for coping with the economic shocks that will come as robots replace textile workers and truck drivers.
It is far from certain that the world’s weaker states can avoid being data-colonized. But they have to try. If they bury their heads in the ground, focus on their immediate problems, and ignore the AI race, their fate will be decided in their absence.
This article originally appeared in the Winter 2019 issue of Foreign Policy magazine.
https://foreignpolicy.com/gt-essay/who-will-win-the-race-for-ai-united-states-china-data/
