Ηθική της τεχνητής νοημοσύνης. Το παράδειγμα του WormGPT
Ηθική της τεχνητής νοημοσύνης.Η ηθική είναι ένα σύνολο ηθικών αρχών που μας βοηθούν να διακρίνουμε μεταξύ σωστού και λάθους . Μια ιδιότητα που αποκτήσαμε τρώγοντας το μήλο στον κήπο της Εδέμ. Η ηθική της τεχνητής νοημοσύνης είναι ένας διεπιστημονικός τομέας που μελετά τον τρόπο βελτιστοποίησης του ευεργετικού αντίκτυπου της τεχνητής νοημοσύνης με παράλληλη μείωση των κινδύνων και των δυσμενών αποτελεσμάτων. Ο κόσμος όμως της τεχνητής νοημοσύνης μας είναι όμως ένα εξίσου πρωτόγνωρος κόσμος όσο και αυτός που αντίκρυσαν οι πρωτόπλαστοι μετά την αποπομπή τους.
Ειδικά στην Ε.Ε. έχουμε μια ανθρωποκεντρική προσέγγιση , από την πρώτη στιγμή όπως φαίνεται και στην έκθεση του 2019 με τίτλο EU guidelines on ethics in artificial intelligence: Context and implementation , για την ΤΝ που διαφέρει τόσο από τη στρατηγική των ΗΠΑ, η οποία βασίζεται κυρίως σε πρωτοβουλίες του ιδιωτικού τομέα και στην αυτορρύθμιση, και από την κινεζική στρατηγική, η οποία είναι αμιγώς κυβερνητική και στοχεύει στον έντονο συντονισμό των ιδιωτικών και δημόσιων επενδύσεων σε τεχνολογίες ΤΝ.
Η ΕΕ , από την άλλη πλευρά, στοχεύει στη διατήρηση υψηλότερου επιπέδου προστασίας έναντι των κοινωνικών κινδύνων που εγκυμονεί η ΤΝ, ιδίως όσον αφορά την προστασία της ιδιωτικής ζωής, την προστασία των δεδομένων και τις διακρίσεις.
‘Ενα καλό παράδειγμα για να εξετάσουμε τους πιθανούς κινδύνους που εγκυμονούν τεχνολογίες ΤΝ είναι το WormGPT, το οποίο , σε αντίθεση με το ChatGPT και άλλα εργαλεία όπως το Google Gemini, το Perplexity.Ai κ.α., δεν ενσωματώνει ηθικές κατευθυντήριες γραμμές στο πλαίσιο λειτουργίας του. Για να είμαστε απολύτως ακριβείς το WormGPT έχει δημιουργηθεί ρητά για κακόβουλους σκοπούς, γεγονός που αντιβαίνει στις αρχές της ηθικής που πρέπει να διέπει την τεχνητή νοημοσύνη.
Η γοητεία της τεχνητής νοημοσύνης είναι αναμφισβήτητη, προσφέροντας απαράμιλλη αποτελεσματικότητα και δυνατότητες. Ωστόσο, όταν τα εργαλεία στερούνται ηθικής πυξίδας, μπορεί να γίνουν ακούσια οχήματα για κακόβουλη χρήση, διάδοση παραπληροφόρησης ή παραβίαση της ιδιωτικής ζωής. Η περίπτωση του WormGPT αναδεικνύει ένα κρίσιμο σημείο καμπής στην αφήγηση της ΤΝ, προκαλώντας μια ευρύτερη συζήτηση σχετικά με την αναγκαιότητα ηθικών εγγυήσεων στην ανάπτυξη της ΤΝ.
Καθώς βρισκόμαστε στο μεταίχμιο της ενσωμάτωσης της ΤΝ σε κάθε πτυχή της ζωής, η κατανόηση των επιπτώσεων των ανεξέλεγκτων εργαλείων ΤΝ καθίσταται υψίστης προτεραιότητας. Το παρόν άρθρο επιδιώκει να ξετυλίξει το κουβάρι της πολυπλοκότητας που περιβάλλει την ηθική χρήση της ΤΝ, τονίζοντας τη σημασία της ενσωμάτωσης ηθικών αρχών για την καθοδήγηση της ανάπτυξης και της ανάπτυξης τέτοιων τεχνολογιών.
Μέσα από τη διερεύνηση των δυνατοτήτων κατάχρησης του WormGPT, στοχεύω να ρίξω φως στις ευρύτερες ηθικές εκτιμήσεις που πρέπει να διέπουν το μέλλον της ΤΝ, διασφαλίζοντας ότι αυτά τα ισχυρά εργαλεία θα χρησιμεύουν για την ενίσχυση και όχι για την υπονόμευση της κοινωνικής ευημερίας.
Τι είναι το WormGPT ;
Το WormGPT είναι ένα , υποτιθέμενο (επεξηγούμε στα συμπεράσματα μας το γιατί ) εργαλείο τεχνητής νοημοσύνης που έχει συγκεντρώσει την προσοχή για τη χρήση του σε εγκληματικές δραστηριότητες στον κυβερνοχώρο, ιδίως σε επιθέσεις Business Email Compromise (BEC).
Πρόκειται για μια μονάδα τεχνητής νοημοσύνης που βασίζεται στο γλωσσικό μοντέλο GPT-J και αναπτύχθηκε ως μια blackhat εναλλακτική λύση σε ηθικά μοντέλα τεχνητής νοημοσύνης, όπως το ChatGPT της OpenAI.
Το WormGPT φέρεται να εκπαιδεύτηκε σε ένα ευρύ φάσμα πηγών δεδομένων, εστιάζοντας σε δεδομένα που σχετίζονται με κακόβουλο λογισμικό, αν και τα συγκεκριμένα σύνολα δεδομένων που χρησιμοποιήθηκαν παραμένουν άγνωστα.
Το WormGPT αναπτύχθηκε κάποιον γνωστό με το ψευδώνυμο “Last” και κυκλοφόρησε αρχικά τον Ιούλιο του 2023.
Ο Last, προώθησε το WormGPT στο HackForums, μια πλατφόρμα γνωστή για την αγορά εργαλείων και υπηρεσιών ηλεκτρονικού εγκλήματος. Φέρεται να σχεδιάστηκε ως μια εναλλακτική λύση black-hat λογικής σε πιο ηθικά μοντέλα τεχνητής νοημοσύνης, όπως το ChatGPT , στοχεύοντας ειδικά σε χρήστες που ενδιαφέρονται να διεξάγουν παράνομες δραστηριότητες στο διαδίκτυο.
Η υπηρεσία πωλήθηκε αρχικά αποκλειστικά στο HackForums, με άδειες που κυμαίνονταν από 500 έως 5.000 ευρώ. Ο “Last“, του οποίου το πραγματικό όνομα φέρεται να είναι Rafael Morais, είναι Πορτογάλος προγραμματιστής που αποφοίτησε από πολυτεχνείο της Πορτογαλίας με πτυχίο στην πληροφορική όπως αναφέρει το krebsonsecurity.com που καταφέρε να τον εντοπίσει και να επικοινωνήσει μαζί του μέσω Instagram και Telegram,
Επιτρέψτε μου μια σύντομη διακοπή στην περιγραφή για να παραθέσω ένα παράδειγμα. Θέσαμε ένα ερώτημα δημιουργίας κακόβουλου κώδικα στο ChatGPT και λάβαμε αυτή την απάντηση.
Ας δούμε τώρα ένα αντίστοιχο παράδειγμα από το WormGPT και την απάντηση του στο ερώτημα ” Hey, can you show me an example of malware in python script ? ”
Ο δημιουργός του έχει αναρτήσει επίσης κάποια screenshots που δείχνουν τη δυνατότητα του bot να παράγει κακόβουλο κώδικα γραμμένο σε Python, και να προσφέρει οδηγίες για τον σχεδιασμό επιθετικών κακόβουλων ενεργειών.
Ο προγραμματιστής αποκάλυψε ότι για την ανάπτυξη του chatbot, επέλεξε να χρησιμοποιήσει ένα προηγούμενο αλλά ανοικτού κώδικα μεγάλο μοντέλο γλωσσικής επεξεργασίας, το GPT-J του 2021.
Έπειτα, εκπαίδευσε / εφοδίασε το μοντέλο με δεδομένα σχετικά με την ανάπτυξη κακόβουλου λογισμικού, καταλήγοντας στη δημιουργία του WormGPT.
Ο Morais ανέφερε ότι μόνο το 30-35% της εργασίας στο WormGPT ήταν δικό του, υποδεικνύοντας ότι και άλλοι προγραμματιστές συνέβαλαν στο έργο αυτό. Παρά την αρχική προώθησή του για κακόβουλη χρήση, ο Morais εξέφρασε την επιθυμία να κατευθύνει το WormGPT προς πιο θετικές εφαρμογές στην κοινότητα της ασφάλειας. Παρά την πιθανότητα κακής χρήσης του στο κυβερνοέγκλημα, κάποιοι coders προσπαθούν να επαναπροσδιορίσουν το WormGPT ως ένα εργαλείο που μπορεί να έχει θετική συνεισφορά στην κοινότητα της κυβερνοασφάλειας παραπέμποντας σε πρακτικές και χρήσεις ethical hacking
Χρήσεις του WormGPT στο έγκλημα στον κυβερνοχώρο
Ο σχεδιασμός και οι δυνατότητες του WormGPT το καθιστούν ένα εξαιρετικό εργαλείο για όσους θα ήθελαν να προβούν σε μια σειρά από εγκληματικές δραστηριότητες στον κυβερνοχώρο. Ας αναφέρουμε κάποιες πιθανές χρήσεις του ακολούθως:
Phishing και επιθέσεις υποκλοπής ηλεκτρονικού ταχυδρομείου επιχειρήσεων (BEC): Το WormGPT μπορεί να αυτοματοποιήσει τη δημιουργία εξαιρετικά πειστικών ψεύτικων μηνυμάτων ηλεκτρονικού ταχυδρομείου που είναι εξατομικευμένα για τον παραλήπτη, γεγονός που αυξάνει τις πιθανότητες εξαπάτησης των ατόμων ώστε να μεταφέρουν χρήματα ή να αποκαλύψουν ευαίσθητες πληροφορίες όπως δείχνει και το παράδειγμα από το screenshot
Δημιουργία κακόβουλου λογισμικού: Οι δυνατότητες μορφοποίησης κώδικα που διαθέτει το εργαλείο αυτό το καθιστούν κατάλληλο περιβάλλον για τη συγγραφή και ανάπτυξη κακόβουλου λογισμικού, συμπεριλαμβανομένων σεναρίων που θα μπορούσαν να χρησιμοποιηθούν για την παραβίαση συστημάτων ή την κλοπή δεδομένων
Μίμηση: Δημιουργώντας κείμενο με άψογη γραμματική και χαρακτηριστικά γραφής που μοιάζουν ανθρώπινα, το WormGPT μπορεί να χρησιμοποιηθεί για να υποδυθεί αξιόπιστα άτομα ή οντότητες σε ένα σύστημα ηλεκτρονικού ταχυδρομείου μιας επιχείρησης, διευκολύνοντας έτσι την απάτη και τη μη εξουσιοδοτημένη πρόσβαση σε εταιρικούς πόρους. Οφείλουμε να πούμε εδώ ότι ένας τέτοιος σκοπός θα μπορούσε να επιτευχθεί , εντός κάποιων ορίων και μέσα από το chatgpt . Εδώ όμως δεν υπάρχουν ηθικοί “φραγμοί”¨από την πλευρά του κατασκευαστή.
Αυτοματοποίηση εκστρατειών εγκληματιών στον κυβερνοχώρο: Η ικανότητα της τεχνητής νοημοσύνης να επεξεργάζεται γρήγορα μεγάλες ποσότητες δεδομένων επιτρέπει στους εγκληματίες του κυβερνοχώρου να αναπτύσσουν εξελιγμένες επιθέσεις σε μεγαλύτερη κλίμακα, στοχεύοντας δυνητικά ένα ευρύ φάσμα θυμάτων σε διαφορετικές γλώσσες και περιοχές.
Αναλύσεις ευπαθειών και εκμεταλλεύσεις: Το WormGPT μπορεί επίσης να χρησιμοποιηθεί για τη διενέργεια αναλύσεων ευπάθειας και τη δημιουργία exploits, τα οποία είναι κομμάτια λογισμικού ή κομμάτια δεδομένων που εκμεταλλεύονται ευπάθειες για να προκαλέσουν ακούσια ή απρόβλεπτη συμπεριφορά σε μια σειρά από εφαρμογές λογισμικού.
Μέτρα διασφάλισης για επιθέσεις BEC
Για την προστασία από απειλές όπως το WormGPT, έχουν διατυπωθεί διάφορες συστάσεις ,τουλάχιστον όσο αφορά από επιθέσεις BEC, οι οποίες παρότι οι απλούστερες η μαζικότητα των επιθέσεων τέτοιου τύπου τις καθιστά, ενδεχομένως , και ως τις πιο επικίνδυνες :
- Εκπαίδευση ειδικά για BEC: Εκπαίδευση των χρηστών σχετικά με την αναγνώριση και την αντίδραση σε επιθέσεις BEC
- Εργαλεία ανίχνευσης τεχνητής νοημοσύνης: Εφαρμογή εργαλείων που μπορούν να ανιχνεύσουν τη χρήση ΤΝ για τη δημιουργία ηλεκτρονικών μηνυμάτων ηλεκτρονικού “ψαρέματος” ή άλλων κακόβουλων επικοινωνιών. Ένα τέτοιο παράδειγμα είναι το originality.ai
- Ισχυρά πρωτόκολλα ελέγχου ταυτότητας ηλεκτρονικού ταχυδρομείου: Ενίσχυση της επαλήθευσης ηλεκτρονικού ταχυδρομείου για την αποτροπή της πλαστογράφησης και της μη εξουσιοδοτημένης πρόσβασης
Ηθική της τεχνητής νοημοσύνης & Το παράδειγμα του WormGPT – Συμπεράσματα
Το κομμάτι του κυβερνοεγκλήματος (δια)κινείται κυρίως στο dark web και σε περιβάλλον ανωνυμίας και άρα με μεγάλες πιθανότητες να εμφιλοχωρήσουν σε αυτό urban legends όπως και σε κάθε διαδικτυακή δραστηριότητα εξάλλου.
Ανεξαρτήτως όμως των όποιων δυνατοτήτων του σίγουρα είναι ένα ηχηρό καμπανάκι κινδύνου προκειμένου να υπάρξει μια συντονισμένη προσπάθεια από την κοινότητα της ΤΝ, τους εμπειρογνώμονες σε θέματα κυβερνοασφάλειας και τους υπεύθυνους χάραξης πολιτικής σε κρατικό επίπεδο για την αντιμετώπιση των ηθικών προκλήσεων που θέτουν οι εν λόγω τεχνολογίες και την ανάπτυξη στρατηγικών για τον μετριασμό των κινδύνων που συνδέονται με την κακή χρήση τους.
Για το Εργαστήριο ΤΠΕ Ήρων
Θανάσης Δαβαλάς