Η Apple, η Nvidia και η Anthropic χρησιμοποίησαν χιλιάδες βίντεο του YouTube για να εκπαιδεύσουν την Τεχνητή Νοημοσύνη! Οι δημιουργοί ισχυρίζονται ότι τα βίντεό τους χρησιμοποιήθηκαν εν αγνοία τους.
Οι εταιρείες τεχνητής νοημοσύνης είναι μυστικοπαθείς σχετικά με τις πηγές των δεδομένων εκπαίδευσης, αλλά μια έρευνα του Proof News διαπίστωσε ότι ορισμένες από τις πλουσιότερες εταιρείες τεχνητής νοημοσύνης στον κόσμο έχουν χρησιμοποιήσει υλικό από χιλιάδες βίντεο στο YouTube για την εκπαίδευση της Τεχνητής Νοημοσύνης. Οι εταιρείες το έκαναν αυτό παρά τους κανόνες του YouTube που απαγορεύουν τη συλλογή υλικού από την πλατφόρμα χωρίς άδεια.
Η έρευνά διαπίστωσε ότι οι υπότιτλοι από 173.536 βίντεο του YouTube, που αποσπάστηκαν από περισσότερα από 48.000 κανάλια, χρησιμοποιήθηκαν από βαριά ονόματα της Silicon Valley, όπως η Anthropic, η Nvidia, η Apple και η Salesforce.
Το σύνολο δεδομένων, που ονομάζεται YouTube Subtitles, περιέχει μεταγραφές βίντεο από εκπαιδευτικά και διαδικτυακά κανάλια μάθησης, όπως το Khan Academy, το MIT και το Harvard. Η Wall Street Journal, το NPR και το BBC χρησιμοποίησαν επίσης τέτοια βίντεο για να εκπαιδεύσουν την Τεχνητή Νοημοσύνη, όπως το «The Late Show With Stephen Colbert», το «Last Week Tonight With John Oliver» και το «Jimmy Kimmel Live».
Το Proof News βρήκε επίσης υλικό από μεγαθήρια του YouTube, όπως ο MrBeast (289 εκατομμύρια συνδρομητές και δύο βίντεο που λήφθηκαν για εκπαίδευση), ο Marques Brownlee (19 εκατομμύρια συνδρομητές και επτά βίντεο που λήφθηκαν), ο Jacksepticeye (σχεδόν 31 εκατομμύρια συνδρομητές και 377 βίντεο που λήφθηκαν) και ο PewDiePie (111 εκατομμύρια συνδρομητές και 337 βίντεο που λήφθηκαν). Ορισμένο από το υλικό που χρησιμοποιήθηκε για την εκπαίδευση της ΤΝ προωθούσε επίσης συνωμοσίες, όπως η «θεωρία της επίπεδης γης».
Το Proof News δημιούργησε ένα εργαλείο για την αναζήτηση δημιουργών στο σύνολο δεδομένων εκπαίδευσης AI του YouTube.
«Κανείς δεν ήρθε σε μένα και μου είπε, “Θα θέλαμε να το χρησιμοποιήσουμε αυτό”», δήλωσε ο David Pakman, οικοδεσπότης του “The David Pakman Show”, ενός αριστερού πολιτικού καναλιού με περισσότερους από δύο εκατομμύρια συνδρομητές και περισσότερες από δύο δισεκατομμύρια προβολές. Σχεδόν 160 από τα βίντεό του εντάχθηκαν στο σύνολο δεδομένων εκπαίδευσης YouTube Subtitles.
Τέσσερα άτομα εργάζονται με πλήρη απασχόληση στην επιχείρηση του Pakman, η οποία δημοσιεύει πολλά βίντεο κάθε μέρα, εκτός από την παραγωγή podcast, βίντεο στο TikTok και υλικό για άλλες πλατφόρμες. Εάν οι εταιρείες τεχνητής νοημοσύνης πληρώνονται, δήλωσε ο Pakman, θα πρέπει να αποζημιωθεί και ο ίδιος για τη χρήση των δεδομένων του. Επεσήμανε ότι ορισμένες εταιρείες μέσων ενημέρωσης έχουν συνάψει πρόσφατα συμφωνίες για να πληρωθούν για την χρήση του έργου τους για την εκπαίδευση της ΤΝ.
«Αυτό είναι ο βιοπορισμός μου και βάζω χρόνο, πόρους, χρήματα και χρόνο του προσωπικού για την δημιουργία αυτού του περιεχομένου», δήλωσε ο Pakman
«Πρόκειται για κλοπή», δήλωσε ο Dave Wiskus, διευθύνων σύμβουλος της Nebula, μιας υπηρεσίας streaming που ανήκει εν μέρει στους δημιουργούς της, σε ορισμένους από τους οποίους έχει αφαιρεθεί το έργο τους από το YouTube για να εκπαιδεύσουν την τεχνητή νοημοσύνη.
Ο Wiskus δήλωσε ότι είναι «ασέβεια» να χρησιμοποιείται το έργο των δημιουργών χωρίς τη συγκατάθεσή τους, ειδικά από τη στιγμή που τα στούντιο μπορούν να χρησιμοποιήσουν «τη γεννητική τεχνητή νοημοσύνη για να αντικαταστήσουν όσο το δυνατόν περισσότερους από τους καλλιτέχνες στην πορεία».
«Θα χρησιμοποιηθεί αυτό για να εκμεταλλευτούν και να βλάψουν τους καλλιτέχνες; Ναι, απολύτως», δήλωσε ο Wiskus.
Εκπρόσωποι της EleutherAI, των δημιουργών του συνόλου δεδομένων, δεν απάντησαν σε αιτήματα σχολιασμού σχετικά με τα ευρήματα της Proof, συμπεριλαμβανομένων των ισχυρισμών ότι τα βίντεο χρησιμοποιήθηκαν χωρίς άδεια. Στον ιστότοπο της εταιρείας αναφέρεται ότι ο γενικός της στόχος είναι να μειώσει τα εμπόδια στην ανάπτυξη της τεχνητής νοημοσύνης για όσους βρίσκονται εκτός των χρυσοποίκιλτων τειχών της Μεγάλης Τεχνολογίας, και ιστορικά παρέχει «πρόσβαση σε τεχνολογίες αιχμής της τεχνητής νοημοσύνης μέσω της εκπαίδευσης και της απελευθέρωσης μοντέλων».
Το YouTube Subtitles δεν περιλαμβάνει εικόνες βίντεο, αλλά αποτελείται από απλό κείμενο υποτίτλων βίντεο, συχνά μαζί με μεταφράσεις σε γλώσσες όπως τα ιαπωνικά, τα γερμανικά και τα αραβικά.
Σύμφωνα με ένα ερευνητικό έγγραφο που δημοσίευσε η EleutherAI, το σύνολο δεδομένων αποτελεί μέρος μιας συλλογής που κυκλοφόρησε ο μη κερδοσκοπικός οργανισμός με την ονομασία Pile. Οι προγραμματιστές του Pile συμπεριέλαβαν υλικό όχι μόνο από το YouTube, αλλά και από το Ευρωπαϊκό Κοινοβούλιο, την αγγλική Wikipedia και ένα σωρό από μηνύματα ηλεκτρονικού ταχυδρομείου εργαζομένων της Enron Corporation, που δόθηκε στην δημοσιότητα στο πλαίσιο ομοσπονδιακής έρευνας για την εταιρεία.
Τα περισσότερα σύνολα δεδομένων του Pile είναι προσβάσιμα και ανοικτά για οποιονδήποτε στο διαδίκτυο με αρκετό χώρο και υπολογιστική ισχύ για να έχει πρόσβαση σε αυτά. Ακαδημαϊκοί και άλλοι προγραμματιστές εκτός της Big Tech έκαναν χρήση του συνόλου δεδομένων, αλλά δεν ήταν οι μόνοι.
Η Apple, η Nvidia και η Salesforce – εταιρείες με αξία εκατοντάδων δισεκατομμυρίων και τρισεκατομμυρίων δολαρίων – περιγράφουν στα ερευνητικά τους έγγραφα και στις αναρτήσεις τους πώς χρησιμοποίησαν το Pile για να εκπαιδεύσουν την Τεχνητή Νοημοσύνη. Τα έγγραφα δείχνουν επίσης ότι η Apple χρησιμοποίησε το Pile για να εκπαιδεύσει το OpenELM, ένα μοντέλο υψηλού προφίλ που κυκλοφόρησε τον Απρίλιο, λίγες εβδομάδες πριν η εταιρεία αποκαλύψει ότι θα προσθέσει νέες δυνατότητες τεχνητής νοημοσύνης στα iPhones και τα MacBooks. Το Bloomberg και η Databricks εκπαίδευσαν επίσης μοντέλα στο Pile, αναφέρουν οι δημοσιεύσεις των εταιρειών.
Το ίδιο έκανε και η Anthropic, ένας κορυφαίος κατασκευαστής τεχνητής νοημοσύνης που συγκέντρωσε επένδυση 4 δισεκατομμυρίων δολαρίων από την Amazon και προωθεί την εστίασή της στην «Ασφάλεια της Τεχνητής Νοημοσύνης».
«Το Pile περιλαμβάνει ένα πολύ μικρό υποσύνολο υποτίτλων του YouTube», δήλωσε η Jennifer Martinez, εκπρόσωπος της Anthropic, σε δήλωσή της που επιβεβαιώνει την χρήση του Pile στον γεννητικό βοηθό τεχνητής νοημοσύνης Claude της Anthropic. «Οι όροι του YouTube καλύπτουν την άμεση χρήση της πλατφόρμας του, η οποία διαφέρει από τη χρήση του συνόλου των δεδομένων του The Pile. Όσον αφορά το θέμα των πιθανών παραβιάσεων των όρων χρήσης του YouTube, θα πρέπει να σας παραπέμψουμε στους συντάκτες του The Pile».
Η Salesforce επιβεβαίωσε επίσης την χρήση του The Pile για την δημιουργία ενός μοντέλου Τεχνητής Νοημοσύνης για «ακαδημαϊκούς και ερευνητικούς σκοπούς». Ο Caiming Xiong, αντιπρόεδρος της έρευνας AI στην εταιρεία, τόνισε σε δήλωσή του ότι το σύνολο δεδομένων ήταν «δημόσια διαθέσιμο».
Αργότερα, η Salesforce κυκλοφόρησε το ίδιο μοντέλο Τεχνητής Νοημοσύνης για δημόσια χρήση το 2022 και έκτοτε το έχουν κατεβάσει τουλάχιστον 86.000 φορές, σύμφωνα με την σελίδα του Hugging Face. Στο ερευνητικό τους έγγραφο, οι προγραμματιστές της Salesforce επισήμαναν ότι το Pile περιείχε επίσης βωμολοχίες καθώς και «προκαταλήψεις κατά του φύλου και ορισμένων θρησκευτικών ομάδων» και προειδοποίησαν ότι αυτό θα μπορούσε να οδηγήσει σε «ευπάθειες και ανησυχίες για την ασφάλεια».
Το Proof News βρήκε χιλιάδες παραδείγματα βωμολοχίας στους υπότιτλους του YouTube, καθώς και περιπτώσεις ρατσιστικών και έμφυλων προσβολών. Ο εκπρόσωπος της Salesforce δεν απάντησε σε ερωτήσεις σχετικά με τις ανησυχίες για την ασφάλεια.
Ένας ακόμη εκπρόσωπος της Nvidia αρνήθηκε να σχολιάσει το θέμα. Οι εκπρόσωποι της Apple, της Databricks και του Bloomberg δεν απάντησαν σε αιτήματα για σχολιασμό.
Το «Χρυσωρυχείο» των Δεδομένων του YouTube
Οι εταιρείες Τεχνητής Νοημοσύνης ανταγωνίζονται μεταξύ τους, εν μέρει με την προμήθεια δεδομένων υψηλότερης ποιότητας, δήλωσε ο Jai Vipra, ερευνητής πολιτικής για την τεχνητή νοημοσύνη και συνεργάτης του CyberBRICS στη Νομική Σχολή Fundação Getulio Vargas, στο Ρίο ντε Τζανέιρο της Βραζιλίας. Αυτός είναι ένας από τους λόγους για τους οποίους οι εταιρείες κρατούν τις πηγές δεδομένων κοντά τους.
Νωρίτερα φέτος, οι New York Times ανέφεραν ότι η Google, στην οποία ανήκει το YouTube, αξιοποίησε βίντεο στην πλατφόρμα για κείμενο για να εκπαιδεύσει τα μοντέλα της. Σε απάντηση, ένας εκπρόσωπος δήλωσε στην εφημερίδα ότι η χρήση της επιτρεπόταν βάσει συμφωνιών με τους δημιουργούς του YouTube.
Η έρευνα των Times διαπίστωσε επίσης ότι η OpenAI χρησιμοποίησε βίντεο του YouTube χωρίς άδεια. Οι εκπρόσωποι της εταιρείας δεν επιβεβαίωσαν, ούτε διέψευσαν τα ευρήματα της εφημερίδας.
Τα στελέχη της OpenAI έχουν επανειλημμένα αρνηθεί να απαντήσουν δημοσίως σε ερωτήσεις σχετικά με το αν χρησιμοποιήθηκαν βίντεο από το YouTube για να εκπαιδευτεί η Τεχνητής Νοημοσύνης Sora, η οποία δημιουργεί βίντεο από προτροπές κειμένου. Νωρίτερα φέτος, ένας δημοσιογράφος της Wall Street Journal έθεσε την ερώτηση στην Mira Murati, διευθύντρια τεχνολογίας της OpenAI.
«Στην πραγματικότητα δεν είμαι σίγουρη γι’ αυτό», απάντησε η Murati.
Οι υπότιτλοι του YouTube και άλλοι τύποι δεδομένων από ομιλία σε κείμενο είναι δυνητικά ένα «χρυσωρυχείο», δήλωσε η Vipra, επειδή μπορούν να βοηθήσουν στην εκπαίδευση μοντέλων που αναπαράγουν τον τρόπο με τον οποίο οι άνθρωποι μιλούν και συνομιλούν.
«Εξακολουθεί να είναι η καθαρή αρχή», δήλωσε ο Dave Farina, ο οικοδεσπότης του “Professor Dave Explains”, του οποίου το κανάλι που παρουσιάζει μαθήματα χημείας και άλλων επιστημών έχει 3 εκατομμύρια συνδρομητές και είχε 140 βίντεο που χρησιμοποιήθηκαν για τους Υπότιτλους του YouTube.
«Αν κερδοσκοπείτε από τη δουλειά που έχω κάνει [για την κατασκευή ενός προϊόντος] που θα με καταστήσει εμένα ή ανθρώπους σαν εμένα, άνεργους, τότε πρέπει να συζητήσουμε για αποζημίωση ή για κάποιου είδους ρύθμιση», είπε.
Το YouTube Subtitles, το οποίο δημοσιεύθηκε το 2020, περιέχει επίσης υπότιτλους από περισσότερα από 12.000 βίντεο που έχουν έκτοτε διαγραφεί από το YouTube. Σε τουλάχιστον μία περίπτωση, ο δημιουργός διέγραψε ολόκληρη την online παρουσία του, ωστόσο το έργο αυτό έχει ενσωματωθεί σε άγνωστο αριθμό μοντέλων τεχνητής νοημοσύνης.
Το Proof News προσπάθησε να επικοινωνήσει με τους ιδιοκτήτες των καναλιών που κατονομάζονται σε αυτήν την ιστορία. Πολλοί από αυτούς δεν απάντησαν σε αιτήματα για σχολιασμό. Από τους δημιουργούς με τους οποίους μιλήσαμε, κανένας δεν γνώριζε ότι οι πληροφορίες τους είχαν ληφθεί, πόσο μάλλον για το πώς χρησιμοποιήθηκαν.
Ανάμεσα σε αυτούς που εξεπλάγησαν ήταν και οι παραγωγοί του Crash Course (σχεδόν 16 εκατομμύρια συνδρομητές και 871 βίντεο) και του SciShow (8 εκατομμύρια συνδρομητές και 228 βίντεο), που αποτελούν πυλώνες της αυτοκρατορίας εκπαιδευτικών βίντεο των αδελφών Hank και John Green.
«Είμαστε απογοητευμένοι όταν μαθαίνουμε ότι το προσεκτικά παραγόμενο εκπαιδευτικό περιεχόμενό μας χρησιμοποιήθηκε με αυτόν τον τρόπο χωρίς την συγκατάθεσή μας», ανέφερε σε δήλωσή της η Julie Walsh Smith, διευθύνουσα σύμβουλος της εταιρείας παραγωγής των εκπομπών, Complexly.»
Οι Υπότιτλοι του YouTube δεν είναι το πρώτο σύνολο δεδομένων εκπαίδευσης AI που προβληματίζει τις δημιουργικές βιομηχανίες.
Ο Alex Reisner, συνεργάτης του Proof News, απέκτησε ένα αντίγραφο του Books3, ενός άλλου συνόλου δεδομένων του Pile, και πέρυσι δημοσίευσε ένα άρθρο στο The Atlantic αναφέροντας την διαπίστωσή του ότι περισσότερα από 180.000 βιβλία, συμπεριλαμβανομένων εκείνων που έχουν γραφτεί από τους Margaret Atwood, Michael Pollan και Zadie Smith, είχαν αφαιρεθεί. Πολλοί συγγραφείς έχουν έκτοτε μηνύσει εταιρείες τεχνητής νοημοσύνης για την μη εξουσιοδοτημένη χρήση του έργου τους και τις υποτιθέμενες παραβιάσεις των πνευματικών δικαιωμάτων. Παρόμοιες υποθέσεις έχουν έκτοτε πάρει διαστάσεις χιονοστιβάδας, και η πλατφόρμα που φιλοξενεί το Books3 τα κατέβασε.
Σε απάντηση στις αγωγές, εναγόμενοι όπως η Meta, η OpenAI και το Bloomberg υποστήριξαν ότι οι ενέργειές τους συνιστούν θεμιτή χρήση. Μια υπόθεση κατά της EleutherAI, η οποία αρχικά απέσπασε τα βιβλία και τα δημοσιοποίησε, απορρίφθηκε οικειοθελώς από τους ενάγοντες.
Η δικαστική διαμάχη στις υπόλοιπες υποθέσεις παραμένει σε πρώιμο στάδιο, αφήνοντας άλυτα τα ζητήματα που αφορούν την άδεια και την πληρωμή. Το The Pile έχει έκτοτε αφαιρεθεί από τον επίσημο ιστότοπο λήψης, αλλά εξακολουθεί να είναι διαθέσιμο σε υπηρεσίες διαμοιρασμού αρχείων.
«Οι τεχνολογικές εταιρείες είναι εκτός ελέγχου», δήλωσε η Amy Keller, δικηγόρος προστασίας των καταναλωτών και εταίρος στην εταιρεία DiCello Levitt, η οποία έχει ασκήσει αγωγές για λογαριασμό δημιουργών, των οποίων το έργο φέρεται να έχει απορροφηθεί από εταιρείες τεχνητής νοημοσύνης χωρίς τη συγκατάθεσή τους.
«Οι άνθρωποι ανησυχούν για το γεγονός ότι δεν είχαν επιλογή στο θέμα», δήλωσε η Keller. «Νομίζω ότι αυτό είναι το πραγματικό πρόβλημα».
Πολλοί δημιουργοί αισθάνονται αβέβαιοι για την πορεία που θα ακολουθήσουν.
Οι YouTubers πλήρους απασχόλησης περιπολούν για μη εξουσιοδοτημένη χρήση της δουλειάς τους, καταθέτοντας τακτικά ειδοποιήσεις κατάργησης, και ορισμένοι ανησυχούν ότι είναι μόνο θέμα χρόνου πριν η τεχνητή νοημοσύνη μπορέσει να δημιουργήσει περιεχόμενο παρόμοιο με αυτό που φτιάχνουν – αν όχι να παράγει απευθείας αντιγραφές.
Ο Pakman, ο δημιουργός του «The David Pakman Show», είδε πρόσφατα την δύναμη της τεχνητής νοημοσύνης ενώ έκανε scrolling στο TikTok. Έπεσε πάνω σε ένα βίντεο που χαρακτηριζόταν ως κλιπ του Tucker Carlson, αλλά όταν ο Pakman το παρακολούθησε, έμεινε έκπληκτος. Ακουγόταν σαν τον Carlson, αλλά ήταν, λέξη προς λέξη, αυτό που είχε πει ο Pakman στην εκπομπή του στο YouTube, μέχρι και τον ρυθμό. Τον ανησύχησε εξίσου το γεγονός ότι μόνο ένας από τους σχολιαστές του βίντεο φάνηκε να αναγνωρίζει ότι ήταν ψεύτικο – ένας κλώνος φωνής του Κάρλσον που διάβαζε το σενάριο του Πάκμαν.
«Αυτό θα είναι πρόβλημα», δήλωσε ο Pakman σε ένα βίντεο που έφτιαξε στο YouTube σχετικά με το ψεύτικο. «Μπορείς να το κάνεις αυτό ουσιαστικά με οποιονδήποτε».
Ο ιδρυτής της EleutherAI, Sid Black, έγραψε στο GitHub ότι δημιούργησε υποτίτλους στο YouTube χρησιμοποιώντας ένα σενάριο. Αυτό το σενάριο κατεβάζει τους υπότιτλους από το API του YouTube με τον ίδιο τρόπο που τους κατεβάζει το πρόγραμμα περιήγησης του θεατή του YouTube όταν παρακολουθεί ένα βίντεο. Σύμφωνα με την τεκμηρίωση στο GitHub, ο Black χρησιμοποίησε 495 όρους αναζήτησης για να αντλήσει βίντεο, συμπεριλαμβανομένων των όρων «Funny vloggers», «Einstein», «Black protestant», «Protective Social Services», «infowars», «Quantum chromodynamics», «Ben Shapiro», «Uighurs», «Fruitarian», «Cake recipe», «Nazca lines» και «Flat earth».
Αν και οι όροι χρήσης του YouTube απαγορεύουν την πρόσβαση στα βίντεό του με «αυτοματοποιημένα μέσα», περισσότεροι από 2.000 χρήστες του GitHub έχουν κάνει σελιδοδείκτες ή έχουν εγκρίνει τον κώδικα.
«Υπάρχουν πολλοί τρόποι με τους οποίους το YouTube θα μπορούσε να εμποδίσει την λειτουργία αυτής της ενότητας, αν αυτό ήταν το ζητούμενο», έγραψε ο μηχανικός μηχανικής μάθησης Jonas Depoix σε μια συζήτηση στο GitHub, όπου δημοσίευσε τον κώδικα που χρησιμοποίησε ο Black για να αποκτήσει πρόσβαση στους υπότιτλους του YouTube. «Αυτό δεν έχει συμβεί μέχρι στιγμής».
Σε ένα μήνυμα ηλεκτρονικού ταχυδρομείου προς το Proof News, ο Depoix δήλωσε ότι δεν έχει χρησιμοποιήσει τον κώδικα από τότε που τον έγραψε ως φοιτητής πανεπιστημίου για ένα έργο πριν από αρκετά χρόνια και εξεπλάγη όταν οι άνθρωποι τον βρήκαν χρήσιμο. Αρνήθηκε να απαντήσει σε ερωτήσεις σχετικά με τους κανόνες του YouTube.
Ο εκπρόσωπος της Google, Jack Malon, δήλωσε σε απάντηση ηλεκτρονικού ταχυδρομείου σε αίτημα σχολιασμού εάν η εταιρεία έχει λάβει «μέτρα όλα αυτά τα χρόνια για να αποτρέψει την καταχρηστική, μη εξουσιοδοτημένη απόξεση», δεν απάντησε σε ερωτήσεις σχετικά με την χρήση του υλικού από άλλες εταιρείες ως εκπαιδευτικών δεδομένων.
Μεταξύ των βίντεο που χρησιμοποιούν οι εταιρείες τεχνητής νοημοσύνης είναι 146 από το «Einstein Parrot», ένα κανάλι με σχεδόν 150.000 συνδρομητές. Η φροντιστής του αφρικανικού γκρίζου, η Marcia, η οποία δεν θέλησε να χρησιμοποιήσει το επώνυμό της από φόβο μήπως θέσει σε κίνδυνο την ασφάλεια της, δήλωσε ότι στην αρχή της φάνηκε αστείο να μαθαίνει ότι τα μοντέλα τεχνητής νοημοσύνης είχαν καταπιεί τα λόγια ενός παπαγάλου που μιμείται.
«Ποιος θα ήθελε να χρησιμοποιήσει την φωνή ενός παπαγάλου;» δήλωσε η Μάρσια. «Αλλά από την άλλη, ξέρω ότι μιλάει πολύ καλά. Μιλάει με την δική μου φωνή. Άρα με παπαγαλίζει, και στην συνέχεια η Τεχνητή Νοημοσύνη παπαγαλίζει τον παπαγάλο».
Μόλις τα δεδομένα απορροφηθούν από την ΤΝ, δεν μπορούν να ξεμάθουν. Η Marcia προβληματίστηκε από όλους τους άγνωστους τρόπους με τους οποίους θα μπορούσαν να χρησιμοποιηθούν οι πληροφορίες του πουλιού, συμπεριλαμβανομένης της δημιουργίας ενός ψηφιακού αντιγράφου παπαγάλου.
«Βαδίζουμε σε αχαρτογράφητο έδαφος», δήλωσε η Μάρσια.
***
@OWL / terrapapers.com / 2009-2024