ΠΕΡΙΕΧΟΜΕΝΑ Γλωσσάριο, ελληνική ορολογία και συντοµεύσεις 11 Πρόλογος του συγγραφέα 13 Πρόλογος της Κατερίνας Γκαρή 15 Πρόλογος του Γιώργου Σιακαντάρη 23 ΜΕΡΟΣ ΠΡΩΤΟ 35 Τι δεν είναι η Τεχνητή Νοηµοσύνη 37 Τι είναι, λοιπόν, η Τεχνητή Νοηµοσύνη; 43 Όταν ο υπολογιστής ξεπέρασε τον άνθρωπο 49 Τι µπορεί να κάνει η Τεχνητή Νοηµοσύνη; 53 Επιφυλάξεις για τη χρήση της Τεχνητής Νοημοσύνης στην εκπαίδευση 60 Το απρόβλεπτο, εχθρός της αξιοπιστίας 62 Πού εστιάζει σήμερα η έρευνα στην Τεχνητή Νοημοσύνη; 64 Πόσο µπορούµε να εµπιστευτούµε την Τεχνητή Νοηµοσύνη; 67 Πόση αυτονομία (μπορεί να) έχει η Τεχνητή Νοημοσύνη; 76
8 ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ Η ραγδαία εξέλιξη της Τεχνητής Νοηµοσύνης: It’s the economy, stupid! 83 Οι επιπτώσεις στην εργασία 87 Θετικές συνέπειες 87 Αρνητικές επιπτώσεις 89 Ποιος κερδίζει από την Τεχνητή Νοημοσύνη; 89 Η αξιοκρατία χάνει την «αξία» της 92 Κριτική 93 Κοινωνικές ανισότητες 96 Άλλες «παρενέργειες» της Τεχνητής Νοηµοσύνης 99 Κακόβουλη χρήση 99 Ανεξέλεγκτη χρήση 101 Μερικά παραδείγματα 102 Στις μεταφορές 102 Στην υγεία 102 Στα σχολεία 105 Στην εφορία 105 Στην αστυνομία 106 Μεροληψία 109 Αδιαφάνεια και λογοδοσία 110 Κριτική 110 Προστασία προσωπικών δεδομένων 116 Δικαίωμα στη λήθη (right to be forgotten) 119 Χειραγώγηση 121 Κατάχρηση πνευματικών δικαιωμάτων 125 Μερικά ακόμα παραδείγματα 129 Τα όρια της Τεχνητής Νοηµοσύνης 137 Ηθική και Τεχνητή Νοημοσύνη 139 Το παράδειγμα του Σαντέλ 140 Ενσωματώνεται στην τεχνολογία η ηθική; 141 Κοινωνική ευημερία ή ψηφιακή δυστοπία; 143
ΠΕΡΙΕΧΟΜΕΝΑ 9 Αναγκαίες ρυθµίσεις 153 Προτάσεις 154 Πολιτικές πρωτοβουλίες 158 Συµπεράσµατα 163 ΜΕΡΟΣ ∆ΕΥΤΕΡΟ: «2060» 167 Ο Νικόλας 169 Στόχος η «κοινωνική ευηµερία» 177 Λίγο πριν την «καταιγίδα» 183 Το σχέδιο του Νικόλα 187 Το λεωφορείο «τρελάθηκε» 193 Το σύστηµα κάλυπτε τα ίχνη του 197 Λίγο πριν τη «Μεγάλη Καταιγίδα» 199 «Ποιος θα µας φυλάξει από τους φύλακες;» 203 Η άνοιξη 207 Ευχαριστίες 211 ∆υο λόγια για τον συγγραφέα 213
Γλωσσάριο, ελληνική ορολογία και συντοµεύσεις Advanced Driver Assistance System (ADAS) – Σύστημα Υποβοήθησης Οδηγού Application-Specific Integrated Circuit (ASIC) – Εξειδικευμένο Ολοκληρωμένο Κύκλωμα Artificial Intelligence (AI) – Τεχνητή Νοημοσύνη (ΤΝ) Artificial General Intelligence (AGI) –Γενική Τεχνητή Νοημοσύνη (ΓΤΝ) Central Processing Unit (CPU) – Κεντρική Μονάδα Επεξεργασίας Graphics Processing Unit (GPU) – Μονάδα Επεξεργασίας Γραφικών (σχεδιασμένη για παράλληλους υπολογισμούς, κατάλληλη για εκπαίδευση νευρωνικών δικτύων) Tensor Processing Unit (TPU) – Μονάδα Επεξεργασίας Τανυστών (σχεδιασμένη από την Google για λειτουργίες μηχανικής μάθησης)
12 ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ Floating Point Operation (FLOP) – Λειτουργία Κινητής Υποδιαστολής (πράξη υπολογισμού που περιλαμβάνει αριθμούς κινητής υποδιαστολής) Floating Point Operations per second (FLOPs) – FLOP ανά δευτερόλεπτο (πόσες τέτοιες πράξεις μπορεί να εκτελέσει ένα σύστημα ανά δευτερόλεπτο) Chat GPT – Πρόγραμμα συνομιλίας με ανθρώπους (πρόγραμμα Τεχνητής Νοημοσύνης που έχει μάθει να καταλαβαίνει και να παράγει ανθρώπινη γλώσσα) Generative Pre-trained Transformer (GPT) – Παραγωγικός Προ-εκπαιδευμένος Μετασχηματιστής Computer Vision – Υπολογιστική Όραση Internet of Things (IoT) – Διαδίκτυο των Πραγμάτων Large Language Models (LLMs) – Μεγάλα Γλωσσικά Μοντέλα Machine Learning (ML) – Μηχανική Μάθηση Adaptive Learning – Προσαρμοστική Μάθηση Deep Learning – Βαθιά Μάθηση (υποσύνολο της μηχανικής μάθησης που χρησιμοποιεί νευρωνικά δίκτυα με πολλά επίπεδα) Reinforcement Learning – Ενισχυτική Μάθηση Supervised Learning – Εποπτευόμενη Μάθηση Unsupervised Learning – Μη Εποπτευόμενη Μάθηση Multimodal data – Πολυτροπικά δεδομένα (κείμενο, εικόνα, ήχος, βίντεο, αισθητήρες) Natural Language (NL) – Φυσική Γλώσσα Neural Networks – Νευρωνικά Δίκτυα (υπολογιστικά συστήματα που έχουν εμπνευστεί από τον τρόπο που λειτουργεί ο ανθρώπινος εγκέφαλος) Utility function – Συνάρτηση ωφέλειας
Πρόλογος του συγγραφέα Γίνεται μεγάλη συζήτηση το τελευταίο διάστημα για την Τεχνητή Νοημοσύνη (ΤΝ), η οποία εντυπωσίασε τον κόσμο κυρίως από την έναρξη της εφαρμογής ChatGPT και μετά. Πλέον, η χρήση του από πάρα πολλούς είναι καθημερινή και οι απαντήσεις του εξαιρετικές. Αντιλήφθηκε άμεσα και στην πράξη ο κόσμος τι σημαίνει Τεχνητή Νοημοσύνη – και, δικαιολογημένα, εντυπωσιάστηκε. Ωστόσο, Τεχνητή Νοημοσύνη δεν είναι μόνο το ChatGPT – προοδευτικά εγκαθίσταται παντού: στα κοινωνικά δίκτυα, τις εφαρμογές υγείας, στην εκπαίδευση, τις βιομηχανίες, τα λογιστήρια, τις εφορίες, τα αυτοκίνητα, την αστυνομία, τα δικαστήρια… σε κάθε φορέα και οργανισμό υπάρχει μια ή περισσότερες εφαρμογές Τεχνητής Νοημοσύνης. Μεγάλη είναι και η συζήτηση που άνοιξε για τους ενδεχόμενους κινδύνους που μπορούν να προκύψουν – τι πρέπει να προστατεύσουμε, πώς πρέπει να προστατευτούμε εμείς οι ίδιοι, και μήπως η ανθρωπότητα βρει τελικά τον μπελά της. Για να έχει άποψη κάποιος για την Τεχνητή Νοημοσύνη και τις μεσοπρόθεσμες και μακροπρόθεσμες επιπτώσεις της, πρέπει να κατανοήσει πρώτα πώς λειτουργεί, ποια είναι τα όριά της και ποια η χρησιμότητά της. Δεν μπορεί κανείς να εκτιμήσει ένα «μαύρο
14 ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ κουτί» αν πρώτα δεν το ανοίξει για να δει τι περιέχει. Ωστόσο, δεν αρκεί μόνο μια τεχνοκρατική ματιά στην Τεχνητή Νοημοσύνη, χωρίς να φωτίσουμε με τον φακό μας τα ίδια τα πεδία εφαρμογής της – χωρίς να δούμε προσεκτικά, με ρεαλισμό αλλά και λίγη φαντασία, πώς ακριβώς επηρεάζονται αυτά τα πεδία και πώς θα επηρεαστούν στο μέλλον. Τότε μόνο μπορούμε –και οφείλουμε– να αντιληφθούμε τι πρέπει να κάνουμε εμείς, πώς να αξιοποιήσουμε την Τεχνητή Νοημοσύνη και πού να την περιορίσουμε. Γιατί η Τεχνητή Νοημοσύνη έχει μια διαφορά από τις άλλες τεχνολογίες που χρησιμοποιεί ο άνθρωπος και στόχευαν από την αρχή να διευκολύνουν τη ζωή του – άσχετα με το πώς χρησιμοποιήθηκαν τελικά. Η διαφορά είναι ότι αυτή η τεχνολογία, στη γενική της εκδοχή, προσομοιώνει τον ίδιο τον άνθρωπο. Αυτός είναι ο στόχος του βιβλίου, να προσεγγίσει το ζήτημα πολύπλευρα και να αναδείξει πώς η ΤΝ μπορεί να γίνει πανάκεια και όχι το κουτί της Πανδώρας. Το βιβλίο χωρίζεται σε δύο μέρη: στο πρώτο, παρουσιάζεται αναλυτικά τι πραγματικά είναι (και τι δεν είναι) η Τεχνητή Νοημοσύνη, ποιες είναι οι εφαρμογές της, ποια είναι η εξέλιξη και τα όριά της, ποιες οι αδυναμίες της, ποια μπορεί να είναι η συνεισφορά της και ποιες οι επιπτώσεις της. Στο δεύτερο μέρος παρουσιάζεται μια φανταστική ιστορία, εμπνευσμένη από τη συζήτηση του πρώτου μέρους. Η ιστορία σκοπό έχει να αναδείξει ότι το κυρίαρχο ζήτημα δεν είναι αν θα εφαρμοστεί στο μέλλον η Τεχνητή Νοημοσύνη αλλά πώς θα εφαρμοστεί, ποιους θα εξυπηρετήσει, ποιος θα την ελέγχει και ποιους θα ελέγχει. Βασίλης Τσαουσίδης, Ιούνιος 2025
Πρόλογος της Κατερίνας Γκαρή Μετά τις σχετικά πρόσφατες αλλαγές που όλοι βιώσαμε αποκτώντας σε πλατφόρμες κοινωνικής δικτύωσης μία ηλεκτρονική αυτο-εικόνα, νέες «φιλίες» στον κυβερνοχώρο και διαφορετικές μορφές συλλογικής ταυτότητας και αίσθησης του ανήκειν, ήλθε η Τεχνητή Νοημοσύνη (ΤΝ) να φέρει στη ζωή μας κι άλλες αλλαγές, ακόμα πιο συγκλονιστικές. Μηχανική Μάθηση, Βαθιά Μάθηση, Τεχνητά Νευρωνικά Δίκτυα, Τεχνητή Νοημοσύνη, Γενική Τεχνητή Νοημοσύνη είναι έννοιες που δεν θα είχαν φτάσει ν’ απασχολούν τους πολίτες, αλλά θα παρέμεναν σε ειδικά όρια επιστημονικής διερεύνησης, αν η ΤΝ ξαφνικά, και με επιταχυνόμενο ρυθμό, δεν είχε διεισδύσει στη ζωή μας. Δοκιμάζει να προσομοιώσει την ανθρώπινη νοημοσύνη και μοιάζει να «υπόσχεται» ότι θα κάνει τη ζωή μας εξαιρετικά εύκολη, κάτι σαν έναν επίγειο παράδεισο. Πόσο αυτό είναι εφικτό, σε ποιους τομείς μπορεί πραγματικά να ωφελήσει με εντυπωσιακούς τρόπους, αλλά και ποιους κινδύνους φαίνεται να εγκυμονεί, έρχεται να απαντήσει το βιβλίο αυτό του Βασίλη Τσαουσίδη. Στο πρώτο μέρος, καταφέρνει, με λόγο λιτό και καθαρό, να φωτίσει, ακόμα για τον μη ειδικό αναγνώστη, τι δεν είναι και τι είναι η ΤΝ, και τι τη διαφοροποιεί από την ανθρώπινη γενική
16 ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ νοημοσύνη. Στην επιστήμη της Ψυχολογίας, είχε περιγραφεί η ανθρώπινη νοημοσύνη με τεκμηριωμένα μοντέλα-σταθμούς, ήδη από τις αρχές του 20ού αιώνα, ως μία γενική ικανότητα «g». Με αυτήν την ικανότητα μπορούμε ν’ αντιλαμβανόμαστε τον κόσμο και να προσαρμοζόμαστε λειτουργικά σε αλλαγές, σε συνδυασμό βέβαια και με τις επιμέρους νοητικές ικανότητές μας «s» που επιστρατεύονται όταν χρειάζεται να ανταποκριθούμε σε συγκεκριμένα έργα ή τομείς δραστηριοτήτων. Από τότε, και μέσα από πολλές επιστημονικές αντιπαραθέσεις, μελετήθηκε σε βάθος η πολυπλοκότητα της ανθρώπινης νοημοσύνης, ενώ, στη βάση μιας αξιόλογης διαχρονικής μελέτης 25 περίπου ετών, διαπιστώθηκαν και τα συστατικά στοιχεία της εξέχουσας νοημοσύνης (Terman & Oden, 1959) που οδηγεί σε καινοτόμα έργα. Στις δεκαετίες ’70 και ’80, είναι σημαντικό ότι διαπολιτισμικοί ψυχολόγοι «τάραξαν τα νερά» της μελέτης της νοημοσύνης διερευνώντας την ιδέα ότι η κατανόησή της είναι πολιτισμικά εξαρτημένη (culture bound), και ότι αυτό που στον δυτικό κόσμο θεωρείται ως νοημοσύνη, είναι μια μεροληπτικά κατασκευασμένη έννοια που συσχετίζεται καθοριστικά με τον βαθμό της συστηματικής εκπαίδευσης που αποκτά το άτομο στο σχολείο (Berry, 1984· Dasen 1983· Georgas, 2003). Η ΤΝ, αν και όχι όμοια με την ανθρώπινη, έχει ήδη παραγάγει μια αξιόλογη καινοτομία. Πολιτισμικά συνδεδεμένη και αυτή με πολύ ισχυρά ερευνητικά κέντρα και μεγάλους επιχειρηματικούς ομίλους του δυτικού κόσμου, όπως οι Google, Amazon, Microsoft, Meta κ.ά., κατάφερε να αξιοποιήσει τον συσσωρευμένο μεγάλο όγκο της ανθρώπινης γνώσης, από διαφορετικά γνωστικά πεδία και επιστημονικούς κλάδους, σε μορφή δεδομένων που ανακτήθηκαν, αναλύθηκαν και προσεγγίστηκαν σε μεγάλη κλίμακα χάριν στο Διαδίκτυο, και να προβεί στην επεξεργασία τους όταν είχε στη διάθεσή της πλέον μια εξαιρετική υπολογιστική ισχύ. Γίνονται κατανοητά γρήγορα στο βιβλίο όλα όσα κατάφερε μέχρι σήμερα η ΤΝ. Σχεδόν εκ-
ΠΡΟΛΟΓΟΣ ΤΗΣ ΚΑΤΕΡΙΝΑΣ ΓΚΑΡΗ 17 μηδένισε τη διάσταση του συμβατικά κατανοητού χρόνου επεξεργασίας, ανεξάρτητα από τον βαθμό της πολυπλοκότητας και από τον αριθμό των δεδομένων, και κατέληξε ήδη σε συναρπαστικά προϊόντα σχεδόν για κάθε άνθρωπο. Το ChatGPT λοιπόν μπορεί να δίνει λύσεις και αναλυτικές απαντήσεις, όταν δέχεται ερωτήσεις, μέσα σε λίγα λεπτά ή και δευτερόλεπτα. Καταφέρνει αυτό που ο ανθρώπινος εγκέφαλος δεν έχει τη δυνατότητα να κάνει, μακριά από κάθε αίσθηση κόπωσης και χωρίς κανένα γεωγραφικό περιορισμό. Ταγμένη στην υπηρεσία του ανθρώπου, η ΤΝ μοιάζει να ξεπερνάει επομένως κατά πολύ τις ανθρώπινες δυνατότητες. Δεν λείπουν μάλιστα οι προσπάθειες που ήδη καταβάλλονται για την αυτοβελτίωση και την επέκτασή της και αφορούν στη Γενική Τεχνική Νοημοσύνη, επιδιώκοντας ακόμα μεγαλύτερες ταχύτητες επεξεργασίας, με περισσότερα δεδομένα και, σε συνδυασμό με τη συναντίληψη περιεχομένου, χώρου, προηγούμενης εμπειρίας, αλλά και με τη συμπερίληψη των ανθρώπινων αξιών, της ηθικής σκέψης και των βασικών ανθρώπινων αναγκών για ασφάλεια και διαφάνεια στη λήψη αποφάσεων. Στη συνέχεια του βιβλίου, με εύστοχα παραδείγματα, υποστηρίζονται οι αξιοθαύμαστες εφαρμογές της ΤΝ στην οδηγητική συμπεριφορά του ανθρώπου, στη διαχείριση μεγάλων συγκοινωνιακών συστημάτων, σε διευκολύνσεις διαδικασιών σε τομείς της υγείας ή της εκπαίδευσης, στην αύξηση της παραγωγής του δυτικού κόσμου, στην αύξηση της προσβασιμότητας ατόμων ΑμεΑ στην εργασία κ.ο.κ. Παρουσιάζονται ωστόσο και αρκετές σαφείς επιφυλάξεις και κριτικές αξιολογήσεις των κινδύνων που η ΤΝ εγκυμονεί. Η ανάληψη ρίσκου για τον άνθρωπο σχετίζεται, μεταξύ άλλων, με τον υπαρκτό βαθμό υποκειμενικότητας και μεροληπτικότητας των δεδομένων που χρησιμοποιεί η ΤΝ. Αυτά βασίζονται στη στατιστική επιστήμη και μάλιστα σε στατιστικά μοντέλα και μεθόδους που υποκειμενικά θεωρούνται κατάλληλα, ενώ τα ίδια τα δεδομένα δεν έχουν
18 ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ υποστεί τον απαραίτητο έλεγχο για σφάλματα, περιορισμένη αντιπροσωπευτικότητα ή χαμηλή προβλεπτική δυνατότητα. Μεγαλύτερου ρίσκου φαίνεται να είναι η κατασκευή ισχυρών και αυτόνομων συστημάτων που ενδέχεται να μην κατανοούν, κάποια στιγμή, τον σκοπό για τον οποίο ο άνθρωπος τα δημιούργησε, τις προτιμήσεις και τις αξίες που υπηρετεί και τι πραγματικά είναι ωφέλιμο για εκείνον, ώστε να είναι ενδεχόμενο να φτάσουν, υπό συνθήκες, να δρουν «εκτός του ελέγχου του». Δεν φαίνεται δυνατή μάλιστα, έως σήμερα, μια καθησυχαστική απάντηση σε αυτούς τους παράγοντες κινδύνου, στον βαθμό που η Γενική Τεχνητή Νοημοσύνη, μία νοημοσύνη πολύ πιο «έξυπνη» από τη σημερινή μορφή της ΤΝ, αποτελεί προς το παρόν μόνο ελπίδα και προσδοκία. Μέχρι να περάσουμε από την προσδοκία στην υλοποίηση της Γενικής Τεχνητής Νοημοσύνης, οι κίνδυνοι είναι υπαρκτοί και αφορούν το εάν και σε ποιο βαθμό η ΤΝ μπορεί να υποκαταστήσει κάποιες ανθρώπινες λειτουργίες ή να τις τροποποιήσει προς επιβλαβείς κατευθύνσεις. Αυτοί οι κίνδυνοι μπορεί να σχετίζονται με εκπαιδευτικές διαδικασίες στα συστήματα εκπαίδευσης ή και με διαγνωστικές διαδικασίες στον χώρο της υγείας, όπου η παρουσία «του δασκάλου» και αντίστοιχα «του γιατρού» είναι αναμφισβήτητα αναγκαίες. Επίσης, οι κίνδυνοι μπορεί να αντιστρατεύονται την ανάγκη για τα αναπτυσσόμενα παιδιά και τους εφήβους να μη σταματήσουν να βελτιώνουν τις νοητικές τους ικανότητες και δεξιότητες, επειδή μαθαίνουν να επαναπαύονται στις έτοιμες, και σε ελάχιστο χρόνο, άφθονες παρεχόμενες από την ΤΝ πληροφορίες. Τέλος, ενδέχεται να αφορούν ευρύτερα ζητήματα στις κοινωνίες, όπως τη μεροληπτική διαχείριση των κοινωνικών και φυλετικών ανισοτήτων, τη δυσλειτουργική διαχείριση δημόσιων φυσικών κινδύνων ή πολεμικών συρράξεων, ή ακόμα και την εμφάνιση φαινομένων μαζικής ανεργίας. Τα προηγούμενα θέματα παρουσιάζονται στο βιβλίο με εμπεριστατωμένα παραδείγματα και αναφορές σε
ΠΡΟΛΟΓΟΣ ΤΗΣ ΚΑΤΕΡΙΝΑΣ ΓΚΑΡΗ 19 αξιόλογες δημοσιευμένες μελέτες και τονίζεται ότι γεννούν υπαρξιακές ανησυχίες και συναισθηματική δυσφορία, συναισθήματα που εκφράζονται τολμηρά από εξέχουσες μορφές διανοητών και βραβευμένων ερευνητών με Νόμπελ στο πεδίο της ΤΝ. Στη συνέχεια, διατυπώνεται πολύ ξεκάθαρα η ανάγκη η ΤΝ να πλαισιωθεί από κανόνες και προληπτικές ρυθμίσεις που απαιτούν τη διεπιστημονική προσέγγιση και συνεργασία, καθώς και την επιθυμία και αποφασιστικότητα των χρηστών, δηλαδή όλων μας ως πολιτών, για διεκδίκηση της ασφάλειας, της διαφάνειας, της μη μεροληπτικότητας και των κοινωνικών αξιών που σέβονται τον άνθρωπο. Η ΤΝ ήδη κατακλύζει τη ζωή μας, ατομική, διαπροσωπική και κοινωνική. Η εισβολή της στη ζωή όλο και περισσότερων πολιτών κινδυνεύει να διαμορφώσει μια «ισχυρή πλειοψηφία» που, επειδή απολαμβάνει τα συναρπαστικά πλεονεκτήματά της, κάνει όλο και μεγαλύτερη χρήση, σε όλο και περισσότερους τομείς δραστηριοτήτων, άκριτα, αξιοποιώντας σχεδόν εμμονικά τα οφέλη της: εκπληκτική ταχύτητα, πλήθος πληροφοριών, σε οποιοδήποτε ζήτημα χρειάζεται λύση. Ό,τι όμως υιοθετεί η πλειοψηφία γίνεται εύκολα και γρήγορα status quo που, στη συνέχεια, απαιτεί ή θα απαιτήσει συμμόρφωση από τα υπόλοιπα μέλη της κοινωνικής ομάδας (Asch, 1955). Άτομα και μειοψηφίες που στέκονται με μια κριτική ματιά προς την ΤΝ, όπως ακριβώς κάνει αυτό το βιβλίο, θα χρειαστούν συνέπεια στις θέσεις τους, βεβαιότητα γι’ αυτές και ισχυρή επιχειρηματολογία (Deusch & Gerard, 1954· Moscovisi και άλλοι, 1969). Αν πληρούν αυτά τα τρία κριτήρια, έχουν πολλές πιθανότητες να εισακουστούν από την πλειοψηφία, επειδή μπορεί να τους αποδοθεί αξιοπιστία, ίσως επειδή η πλειοψηφία θα πιστέψει ότι κάτι δεν ξέρει που μπορεί να το μάθει από τις μειοψηφικές θέσεις. Αυτό το βιβλίο εκφράζει τα πλεονεκτήματα και τα μειονεκτήματα της ΤΝ, σε συνδυασμό με τη ρητή ανησυχία του συγγραφέα, και τις αμφισβητήσεις άλλων καταξιωμένων ειδικών που σχολιάζονται
www.klidarithmos.grRkJQdWJsaXNoZXIy MTk1OTAxMA==