A realistic high-definition image of a silver-haired older South Asian man portraying a politician-like persona. He is speaking passionately in front of a microphone on a podium. Crowd's attention fixed on him, conveying a sense of authority and respect. He stands with an air of conviction, his eyes reveal a depth of wisdom and ethical concerns. His traditional South Asian attire communicates a deep connection with his culture and people.

AI Karunanidhi: A Resurrected Political Voice with Ethical Concerns

Uncategorized xEN

In a remarkable display of artificial intelligence (AI) technology, the late M Karunanidhi, an iconic figure in Indian cinema and politics, has been resurrected through deepfake videos for public appearances. This groundbreaking use of AI has allowed the Dravida Munnetra Kazhagam (DMK) party to promote its current leader, MK Stalin, by leveraging the popularity and influence of Karunanidhi.

The deepfake Karunanidhi made his first appearance last year in September during a local media event, followed by another appearance for a campaign organized by his party members. In these videos, AI Karunanidhi praised the leadership of his son, highlighting his accomplishments in areas such as student debt pardoning, poverty alleviation, women’s empowerment, and attracting investments. These speeches aim to boost the popularity of MK Stalin and garner support for the DMK party.

However, this use of AI technology raises ethical and legal concerns. While creating synthetic audio and video of a living person who has consented to the content may be acceptable, it becomes problematic when a deceased person is resurrected and attributed with opinions and statements. This has sparked a debate on the ethical boundaries of AI communication.

Nevertheless, the demand for AI-facilitated content marketing in election campaigns is on the rise. In India alone, the market opportunity for AI-driven electioneering, including personalized media outreach, avatar creation, multilingual creatives, and outbound voice calls and SMS, is estimated to be worth $60 million during the upcoming parliamentary elections in 2024.

This trend is not limited to India. Similar instances of AI use in political campaigns have been observed globally, with over 60 countries scheduled to hold national elections in 2024. The misuse of AI technology to influence public opinion has become a pressing concern, raising moral and ethical debates worldwide.

South Asia has witnessed a significant interest in AI campaigning and instances of misuse. Countries like Indonesia, Bangladesh, and Pakistan have experienced the use of deepfake technology and generative AI in political campaigns to attract voters and amplify political messages. These developments have intensified the discourse surrounding the regulation and responsible use of AI in the political sphere.

As technology continues to advance, policymakers face the challenge of defining the limits and regulations for AI communication. Striking a balance between innovation and ethical concerns will be crucial to ensuring the responsible and transparent use of AI in politics, safeguarding the integrity of public opinion and democratic processes.

Συνέβη ένα σημαντικό πείραμα αναπαραγωγής τεχνητής νοημοσύνης (ΤΝ) με τον αργότερο M Karunanidhi, μια εμβληματική φιγούρα στον ινδικό κινηματογράφο και την πολιτική, να ανασταίνεται μέσω deepfake βίντεο για δημόσιες εμφανίσεις. Αυτή η καινοτόμος χρήση της ΤΝ έδωσε τη δυνατότητα στο κόμμα Dravida Munnetra Kazhagam (DMK) να προωθήσει τον τρέχοντα ηγέτη του, MK Stalin, αξιοποιώντας τη δημοφιλία και την επιρροή του Karunanidhi.

Ο deepfake Karunanidhi κάνει την πρώτη του εμφάνιση τον περασμένο Σεπτέμβριο κατά τη διάρκεια ενός τοπικού μέσου γεγονότος, ακολουθούμενος από μια άλλη εμφάνιση για μια εκστρατεία που οργάνωσαν τα μέλη του κόμματός του. Σε αυτά τα βίντεο, ο AI Karunanidhi επαινεί την ηγεσία του γιου του, τονίζοντας τις επιτυχίες του σε τομείς όπως η απαλλαγή από τα οικονομικά χρέη των φοιτητών, η μείωση της φτώχειας, η ενδυνάμωση των γυναικών και η προσέλκυση επενδύσεων. Αυτές οι ομιλίες στοχεύουν να αυξήσουν τη δημοφιλία του MK Stalin και να επιτύχουν υποστήριξη για το κόμμα DMK.

Ωστόσο, αυτή η χρήση της τεχνολογίας της ΤΝ προκαλεί ηθικά και νομικά ζητήματα. Ενώ η δημιουργία συνθετικού ήχου και βίντεο ενός ζώντος ατόμου που έχει δώσει συγκατάθεση για το περιεχόμενο μπορεί να θεωρηθεί αποδεκτή, γίνεται προβληματική όταν ανασταίνεται ένας νεκρός και του αποδίδονται απόψεις και δηλώσεις. Αυτό έχει δημιουργήσει μια συζήτηση για τα ηθικά όρια της επικοινωνίας της ΤΝ.

Παρόλα αυτά, η ζήτηση για μάρκετινγκ περιεχομένου με τη βοήθεια της ΤΝ στις εκλογικές εκστρατείες αυξάνεται. Μόνο στην Ινδία, η αγορά ευκαιριών για την εκμετάλλευση της ΤΝ για εκλογικές εκστρατείες, περιλαμβάνοντας εξατομικευμένη επαφή με τα μέσα ενημέρωσης, δημιουργία αβατάρ, πολύγλωσσα δημιουργικά και εξερχόμενες κλήσεις φωνής και SMS, εκτιμάται ότι αξίζει 60 εκατομμύρια δολάρια κατά τις προσεχείς κοινοβουλευτικές εκλογές του 2024.

Αυτή η τάση δεν περιορίζεται στην Ινδία. Παρατηρούνται παρόμοια περιστατικά χρήσης της τεχνολογίας της ΤΝ σε πολιτικές εκστρατείες παγκοσμίως, με πάνω από 60 χώρες να προγραμματίζουν εθνικές εκλογές το 2024. Η κατάχρηση της τεχνολογίας της ΤΝ για να επηρεάσει τη δημόσια γνώμη έχει καταστεί ανησυχία προτεραιότητας, προκαλώντας ηθικές και νομικές συζητήσεις παγκοσμίως.

Ο νότιος ασιατικός χώρος έχει δείξει μεγάλο ενδιαφέρον για τις πολιτικές εκστρατείες της ΤΝ και περιπτώσεις κατάχρησης. Χώρες όπως η Ινδονησία, το Μπανγκλαντές και το Πακιστάν έχουν βιώσει τη χρήση της τεχνολογίας της deepfake και της γεννήτριας ΤΝ σε πολιτικές εκστρατείες για να προσελκύσουν ψηφοφόρους και να ενισχύσουν πολιτικά μηνύματα. Αυτές οι εξελίξεις έχουν εντείνει τη συζήτηση γύρω από τη ρύθμιση και την υπεύθυνη χρήση της ΤΝ στον πολιτικό χώρο.

Καθώς η τεχνολογία συνεχίζει να προχωρά, οι πολιτικοί αντιμετωπίζουν το πρόβλημα του καθορισμού των ορίων και των κανονισμών για την επικοινωνία της ΤΝ. Η εύρεση ισορροπίας μεταξύ καινοτομίας και ηθικών ανησυχιών θα είναι κρίσιμη για τη διασφάλιση της υπεύθυνης και διαφανούς χρήσης της ΤΝ στην πολιτική, προστατεύοντας την ακεραιότητα της δημόσιας γνώμης και των δημοκρατικών διαδικασιών.