Η Τεχνητή Νοημοσύνη ως «συνεργός» σε ηλεκτρονικές απάτες – Πως «κλέβουν» φωνές και πρόσωπα

Ο Καθηγητής Οικονομίας και Νέων Τεχνολογιών Μάριος Παπαευσταθίου που πρόσφατα απέσπασε το χρυσό βραβείο κορυφής σε διαγωνισμό ψηφιακής εκπαίδευσης, τεχνητής νοημοσύνης και ρομποτικής μίλησε στην karfitsa.gr για τους κινδύνους από την κλωνοποίηση φωνής, τα deepfakes και τους εκβιασμούς.
Φανταστείτε επιτήδειοι να σας καλέσουν στο τηλέφωνο και προσποιούμενοι κάποιο στενό συγγενικό σας πρόσωπο, να υποστηρίζουν κλαίγοντας ότι χρειάζονται άμεσα ένα χρηματικό πόσο γιατί το παιδί σας βρίσκεται στην εντατική σε κρίσιμη κατάσταση.

Το νέο στοιχείο που προστίθεται σε αυτό το παλιό είδος απάτης είναι ότι οι επιτήδειοι πλέον μπορούν να «κλέψουν» και τη φωνή προσώπων μέσω τεχνητής νοημοσύνης.

Ο καθηγητής Οικονομίας και Νέων Τεχνολογιών Μάριος Παπαευσταθίου που πρόσφατα απέσπασε το χρυσό βραβείο κορυφής σε διαγωνισμό ψηφιακής εκπαίδευσης, τεχνητής νοημοσύνης και ρομποτικής μίλησε στην karfitsa.gr για τους κινδύνους από την κλωνοποίηση φωνής, τα deepfakes και τους εκβιασμούς.

«Οι χάκερς πλέον εξελίσσονται συνεχώς στις τεχνικές τους και χρησιμοποιούν τα προηγμένα εργαλεία της τεχνητής νοημοσύνης για τις επιθέσεις τους» αναφέρει στην karfitsa.gr ο διακεκριμένος Καθηγητής κ. Παπαευσταθίου.

Ο εκβιασμός μέσω ηλεκτρονικών απατών είναι μια σοβαρή και πολύπλευρη απειλή που μπορεί να επηρεάσει άτομα και οργανισμούς. Οι εκβιαστές χρησιμοποιούν διάφορες τεχνικές για να εξαπατήσουν τα θύματά τους και να τα αναγκάσουν να πληρώσουν χρήματα ή να αποκαλύψουν ευαίσθητες πληροφορίες.

Ο Καθηγητής Οικονομίας και Νέων Τεχνολογιών Μάριος Παπαευσταθίου τονίζει ότι οι επιτήδειοι χρησιμοποιούν την τεχνητή νοημοσύνη για να δημιουργήσουν deepfakes  επιλέγοντας κυρίως τα πρόσωπα και τις φωνές διασημοτήτων, πολιτικών, influencer και άλλων δημόσιων προσώπων λόγω της επιρροής τους στο ευρύ κοινό με σκοπό να παραπλανήσουν την κοινή γνώμη προς ιδίων όφελος.

Μέθοδοι Λήψης Δεδομένων

Όπως εξηγεί ο κ. Παπαευσταθίου οι επιτήδειοι χρησιμοποιούν διάφορες μεθόδους για να αποκτήσουν τα απαραίτητα δεδομένα φωνής και προσώπου:

 Δημόσια Διαθέσιμα Δεδομένα: Βίντεο, φωτογραφίες και ηχογραφήσεις που είναι διαθέσιμα στο διαδίκτυο, όπως σε κοινωνικά δίκτυα, συνεντεύξεις και δημόσιες εμφανίσεις.

 Διαρροές Δεδομένων: Σε ορισμένες περιπτώσεις, δεδομένα μπορεί να αποκτηθούν μέσω διαρροών ή χάκινγκ.

 Αυτοδημιουργία Περιεχομένου: Οι επιτήδειοι μπορούν να χρησιμοποιήσουν λογισμικό για τη δημιουργία συνθετικών δεδομένων που να μοιάζουν με τα πραγματικά.

Πώς παίρνουν φωνές και πρόσωπα μέσω της τεχνητής νοημοσύνης

Η χρήση της τεχνητής νοημοσύνης για τη δημιουργία παρουσιαστών γίνεται με συνδυασμό τεχνολογιών αναγνώρισης και σύνθεσης φωνής, αναγνώρισης και δημιουργίας προσώπων, καθώς και deepfake τεχνικών.

Αναλυτικά, σύμφωνα με τον κ. Παπαευσταθίου η διαδικασία περιλαμβάνει τα εξής βήματα:

Δημιουργία Συνθετικών Φωνών και Προσώπων

Συλλογή Δεδομένων:

Δεδομένα Φωνής: Συλλέγονται ηχογραφήσεις από τις φωνές των παρουσιαστών. Αυτά τα δεδομένα χρησιμοποιούνται για την εκπαίδευση των μοντέλων σύνθεσης φωνής.

Δεδομένα Εικόνας και Βίντεο: Συλλέγονται εικόνες και βίντεο από τα πρόσωπα των παρουσιαστών. Αυτά τα δεδομένα είναι απαραίτητα για την εκπαίδευση μοντέλων αναγνώρισης και αναπαραγωγής προσώπου.

Εκπαίδευση Μοντέλων:

Speech Synthesis Models: Χρησιμοποιούνται μοντέλα όπως το Tacotron 2 και το WaveNet, τα οποία εκπαιδεύονται με τα δεδομένα φωνής για να δημιουργήσουν συνθετική φωνή που ακούγεται φυσική και ρεαλιστική.

Face Synthesis Models: Χρησιμοποιούνται τεχνικές όπως τα Generative Adversarial Networks (GANs) και συγκεκριμένα μοντέλα όπως το StyleGAN, για τη δημιουργία συνθετικών εικόνων προσώπου.

Deepfake Technology:

Face Replacement: Με τη χρήση GANs, οι τεχνολογίες deepfake μπορούν να αντικαταστήσουν το πρόσωπο σε ένα βίντεο με το συνθετικό πρόσωπο του παρουσιαστή. Αυτό επιτρέπει την εμφάνιση ενός παρουσιαστή που φαίνεται και ακούγεται όπως ο πραγματικός, αλλά στην πραγματικότητα είναι ένα ψηφιακό δημιούργημα.

Lip Syncing: Η τεχνολογία lip-syncing προσαρμόζει τις κινήσεις των χειλιών του συνθετικού προσώπου ώστε να ταιριάζουν με τον ήχο της συνθετικής φωνής, προσδίδοντας ρεαλισμό στην παρουσίαση.

Η προστασία από τις ηλεκτρονικές απάτες και τους εκβιασμούς απαιτεί συνεχή επαγρύπνηση, εκπαίδευση και χρήση των κατάλληλων τεχνολογικών μέτρων.

Με την κατάλληλη ενημέρωση, εκπαίδευση και χρήση τεχνολογιών ανίχνευσης, μπορούμε να μειώσουμε τον αντίκτυπο αυτών των επιθέσεων και να προστατεύσουμε την ιδιωτικότητα και την ασφάλεια αυτών των ατόμων.

Παράλληλα η κατανόηση αυτών των απατών και η επαγρύπνηση μπορούν να βοηθήσουν στην αποφυγή της θυματοποίησης. Είναι σημαντικό να χρησιμοποιείτε ενημερωμένο λογισμικό ασφαλείας, να ελέγχετε την αυθεντικότητα των πηγών και να είστε προσεκτικοί με τις πληροφορίες που μοιράζεστε στο διαδίκτυο.