Secanggih apakah teknologi ini?
securitydive.inInformasi ini adalah skenario dystopic yang melibatkan wajah seseorang. Sekarang ini, bukti video tidak lagi dapat diandalkan. Bagaimana bisa? Dewasa ini, sebuah program AI memiliki kemampuan untuk menempelkan wajah seseorang secara nyata di atas tubuh orang lain, untuk membuat mereka mengatakan, melakukan, dan mengeluarkan pernyataan yang mungkin tidak akan pernah mereka lakukan dalam kehidupan nyata.
Teknologi canggih ini disebut "deepfake". Pemerintah, organisasi, dan orang tak berdosa di seluruh dunia mengalami kekhawatiran ketika teknologi ini hadir. Cukup mengerikan, nyatanya deepfake semakin mudah untuk dibuat. Mereka tidak membutuhkan tim CGI yang profesional, orang awam pun bisa mengandalkan teknologi canggih ini dengan mudah. Teknologi ini bisa menimbulkan risiko yang menakutkan bagi demokrasi itu sendiri. Inilah fakta tak terungkap yang perlu kamu ketahui mengenai deepfake.
1. Apa sih deepfake itu?
Kenapa ini berbahaya? Bayangkan jika figur tokoh politik ditampilkan di video dengan membuat pernyataan kontroversial, jelas efeknya akan sangat berbahaya bukan. Direktur Get Out, Jordan Peele bekerja sama dengan Buzzfeed untuk membuat PSA mendalam yang menampilkan mantan Presiden Barack Obama yang membuat pernyataan tidak biasa. Peele mengedukasi masyarakat tentang deepfake, dan untuk lebih berhati-hati dengan apa yang mereka lihat dari internet.
2. Cara kerja deepfake
Pada dasarnya, deepfake dibuat menggunakan GAN (Generative Adversarial Network), sejenis teknologi yang mengambil sejumlah besar data, memprosesnya, dan menghasilkan sampel baru dari data tersebut. Jadi, misalnya jika kita memasukkan rekaman besar-besaran diri kita sendiri, GAN akan mengerjakannya selama berjam-jam, berhari-hari, atau mungkin bisa berminggu-minggu untuk mempelajari segala hal tentang tics wajah, perilaku, dan pola bicara kita, hingga akhirnya ia dapat mereplikasikan kita dengan cukup baik untuk membuat video yang tampak meyakinkan seperti aslinya.
3. Deepfake pertama kali muncul di Reddit
Nama teknologi ini berdasarkan pada salah satu pengguna Reddit dengan sebutan "deepfakes," yang memposting video pada 2017. Dilansir dari Vice, deepfakes itu anonim, ia menggunakan alat pembelajaran open-source untuk membuat videonya, dan mengekstraksi gambar dari basis data publik seperti YouTube dan Google Image. Kualitas videonya yang meyakinkan mampu menggegerkan jagad internet. Dan memicu timbulnya masalah kode etik yang serius.
Mengapa? Karena video-video dan seluruh algoritmenya dibuat untuk memetakan wajah-wajah figur terkenal seperti Gal Gadot, Aubrey Plaza, Taylor Swift, dan Scarlett Johansson, memasukkannya ke dalam adegan seksual tanpa seizin mereka. Pastinya tidak ada ya selebriti yang setuju untuk menyisipkan wajah mereka ke dalam video dewasa ini. Namun si anonim deepfakes ini berpendapat bahwa ia hanyalah seorang programmer yang tertarik untuk mengeksplorasi teknologi.
4. Aplikasinya viral, dan kelegalannya dipertanyakan
Setelah si anonim deepfakes memposting videonya, banyak yang memprediksi bahwa fenomena ini akan viral. Pada awal 2018, Vice melaporkan bahwa si anonim deepfakes menciptakan subreddit bernama "Deepfakes," yang dengan cepat diikuti lebih dari 15.000 orang, dan tentu saja hal ini menginspirasi orang lain untuk membuatnya juga. Tidak butuh waktu lama, redditor lain mendesain aplikasi yang mudah digunakan bernama FakeApp, yang dimaksudkan untuk memudahkan non-programmer untuk membuat video deepfake mereka sendiri.
Selebritas yang privasinya dilanggar karena teknologi terbaru ini, meminta studio dewasa untuk menghapus video yang diedit dengan wajah mereka, dan studio-studio itu pun sudah menyatakan akan menanganinya, namun hal itu tidak serta merta menghentikan video seperti itu dari pembajakan dan penyebaran secara luas.
5. Implikasi yang mengerikan dari deepfake
Seperti yang juga ditunjukkan CNN, selama lebih dari seabad, umat manusia menganggap teknologi audio dan video sebagai bukti nyata dari sebuah fakta. Video dianggap sebagai kebenaran. Kehadiran deepfake membuat kebenaran menjadi sulit ditentukan. Saat ini, jika publik tidak tanggap dan sadar akan teknologi semacam deepfake, proliferasi teori konspirasi saat ini akan menjadi jauh lebih buruk.
6. Bagaimana media sosial menanggapi deepfake?
Facebook yang dikenal sebagai benteng pelanggaran privasi di internet, terbukti tidak bisa diandalkan dalam hal ini. Pada tahun 2019, dilansir dari Business Insider, jejak besar Mark Zuckerberg menjadi viral di Instagram, di mana ia merasa terbebani dengan tanggung jawabnya untuk mengendalikan masa depan miliaran orang melalui akses ke data dan rahasia mereka.
Menurut Slate, pernyataan Zuckerberg itu ternyata palsu. Itu hanyalah deepfake Zuckerberg yang diciptakan oleh dua seniman, yakni Daniel Howe dan Bill Posters, yang bertujuan untuk menguji Facebook. Untungnya, situs web besar lainnya sudah mengambil tindakan antisipasi. Dilansir dari Verge, Reddit memperbarui aturannya akibat viralnya subreddit "deepfakes" pada tahun 2018 itu. Twitter pun mengambil langkah dengan melarang adanya konten deepfake.
Vice melaporkan bahwa platform hosting gambar Gfycat, secara aktif menghapus konten deepfake. Namun tentu saja, tindakan-tindakan tersebut tidak menghentikan video deepfake di situs lain.
7. Pentagon melibatkan diri dengan adanya deepfake
Departemen Pertahanan Amerika Serikat mencoba untuk selangkah lebih maju menangani masalah ini. Dilansir dari CNN, Pentagon bekerja sama dengan lembaga penelitian besar seperti Universitas Colorado untuk memerangi krisis deepfake di masa datang, dengan mengembangkan program yang diharapkan dapat memisahkan video nyata dan palsu seperti saringan digital. Mereka pun memulainya dengan membuat sendiri deepfakes versi mereka. Dengan cara ini, mereka dapat lebih memahami bagaimana teknologi tersebut bekerja, dan dengan demikian mencari cara untuk mengakali itu.
Politico menulis bahwa pemerintah telah memperingatkan masyarakat untuk waspada terhadap individu-individu dengan itikad buruk yang menggunakan deepfake untuk mempengaruhi pemilihan di masa depan. Politisi Amy Klobuchar hingga Marco Rubio, mengkhawatirkan tentang ancaman yang ditimbulkan teknologi ini terhadap keamanan nasional.
8. Ada manfaat dibalik teknologi menakutkan ini
Walaupun teknologi ini dianggap buruk, deepfake ternyata memiliki manfaat juga. Dalam sebuah wawancara dengan Mashable, Dr. Louis-Philippe Morency, direktur MultiComp Lab di Carnegie Mellon University, menjelaskan bahwa teknologi ini bisa berguna untuk terapi PTSD. Seperti yang dia tunjukkan, banyak prajurit yang menderita PTSD yang tidak mau menjalani terapi karena stigma yang dirasakannya, atau keengganan untuk memberi tahu siapa pun bahwa mereka menderita penyakit itu.
Dengan kemampuan pengenalan wajah dari teknologi deepfake yang lebih maju, para prajurit bisa memiliki wajah buatan mereka sendiri. Ini akan melindungi privasi pasien, dokter pun dengan leluasa bisa membaca ekspresi mereka untuk petunjuk emosional.
Dr. Morency juga mengungkapkan bahwa teknologi ini bisa digunakan untuk wawancara kerja. Melalui pemetaan wajah yang menyembunyikan wajah asli pelamar, hambatan seperti bias ras atau gender mungkin tidak lagi menjadi faktor utama dalam lamaran kerja.
9. Bagaimana cara membedakan video deepfake dengan yang asli?
Bagaimana kita membedakan video asli maupun rekayasa deepfake? Menurut Slate, cara terbaik untuk membedakannya adalah dengan menonton lebih banyak video deepfake. Sebagai contoh, coba perhatikan proliferasi suntingan Adobe Photoshop. Seiring berjalannya waktu, kita pasti belajar cara membedakan foto palsu, baik melalui tanda-tanda tertentu atau hanya melalui insting kita. Nah, hal yang sama juga berlaku untuk deepfake.
Semakin banyak kita menontonnya, secara otomatis kita mengerti petunjuk dan tanda-tanda mana rekaman nyata dan mana rekaman dari subjek yang palsu. Kita akan mengetahui gerakan mulut yang terlihat aneh atau wajah yang terlihat agak miring. Kita pun harus jeli dalam hal ini.
10. Ilmuan terus berusaha mencari solusi akan masalah ini
Para ilmuwan sedang mencari cara untuk mengakali dan mengekspos deepfake lebih mudah, dengan mengembangkan teknologi dan program baru untuk menyaringnya. Sebagai contoh, Fast Company melaporkan bahwa penelitian sedang dilakukan di Institut Ilmu Informasi Universitas California Selatan (USC ISI) untuk membuat perangkat lunak baru AI, yang dapat menghilangkan rekayasa deepfake dengan tingkat akurasi 96 persen.
11. Teknologi baru yang dapat menciptakan wajah palsu, kucing palsu, dan Airbnb palsu
Menurut Business Insider, baru-baru ini sejumlah situs web baru bermunculan, alih-alih mengandalkan teknologi GAN untuk bertukar dua wajah, mereka menggunakan algoritma yang disebut "StyleGAN". Contohnya seperti web ThisPersonDoesNotExist.com — AI akan membuat wajah baru yang tidak ada sebelumnya, dimodelkan dengan menggabungkan fitur-fitur dari banyak wajah lain yang disimpan dalam basis datanya. Pada dasarnya, orang-orang yang muncul pada web tersebut sebenarnya tidak ada atau tidak nyata.
Pembuat situs tersebut juga mengembangkan versi yang disebut ThisCatDoesNotExist, yang melakukan hal yang sama namun untuk kucing. Ada juga versi yang disebut ThisAirbnbDoesNotExist, yang secara otomatis menghasilkan daftar Airbnb palsu, termasuk deskripsi kamar, foto-fotonya, dan bahkan gambar tuan rumahnya.
12. Kejahatan pidana terkait teknologi ini
Menurut Fast Company, cyber crime bisa memanfaatkan teknologi ini untuk kejahatan. Biasanya mereka akan belajar mengenai program AI untuk mereplikasi suara CEO, yang bisa mereka dapatkan dari YouTube, atau di mana pun itu. Kemudian, mereka akan menggunakannya untuk menipu petugas keuangan, dan meminta ditransfer uang. Cybersecurity Symantec mengungkapkan bahwa tiga perusahaan pernah dibajak oleh kasus penipuan ini, hingga mengalami kerugian jutaan dolar.
Fakta bahwa kejahatan cyber semacam itu sudah pernah ada, kasus ini bisa menjadi masalah besar bagi pasar saham. Inilah masalah yang perlu diantisipasi oleh perusahaan dan dunia.
13. Deepfake semakin mudah digunakan
Deepfakes menjadi lebih mudah diproduksi. Sebagai contoh, Vice menunjukkan bahwa pada tahun 2019, para peneliti dari dua universitas besar di Israel mengungkapkan bahwa mereka telah mengembangkan sebuah program yang disebut FSGAN, yang dapat membuat video pertukaran wajah yang sangat realistis secara real-time pada dua orang, tanpa memandang jenis kelamin, perbedaan warna kulit, dan sebagainya, serta tanpa menggunakan AI yang harus menghabiskan waktu berjam-jam mempelajari wajah orang tersebut. Pengembangan FSGAN sebenarnya untuk mengembangkan serangan balik yang efektif untuk pemalsuan seperti itu, yakni IE.
Sejauh poin terakhir, perdebatan mengenai kasus ini membuat kita mengerti kalau perkembangan deepfake semakin maju. Kita sebagai orang awam sekalipun tidak boleh menutup diri untuk memahami teknologi semacam deepfake. Kita bisa memeranginya melalui penelitian mendalam, menonton video deepfake, atau bahkan hanya membaca artikel seperti ini, yang merupakan kunci untuk melawan balik informasi yang salah.
Sumber:
https://mashable.com/2018/02/02/what-are-deepfakes/
https://www.buzzfeednews.com/article/davidmack/obama-fake-news-jordan-peele-psa-video-buzzfeed
https://www.vice.com/en_us/article/paj88g/watching-a-deepfake-being-made-is-boring-and-you-must-see-it
https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
https://www.theverge.com/2018/1/30/16945494/deepfakes-porn-face-swap-legal
https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6#in-july-2018-over-a-million-people-watched-an-edited-video-of-an-alexandria-ocasio-cortez-interview-that-made-her-appear-as-if-she-lacked-answers-to-numerous-questions-7
https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6#in-june-2019-a-deepfake-of-mark-zuckerberg-appeared-on-instagram-facebook-also-decided-to-leave-it-up-setting-a-precedent-for-leaving-manipulated-videos-on-their-platforms-9
https://slate.com/technology/2019/06/how-to-spot-deepfake-videos.html
https://www.theverge.com/2018/2/7/16982046/reddit-deepfakes-ai-celebrity-face-swap-porn-community-ban
https://www.engadget.com/2018/02/07/twitter-joins-those-banning-deepfake-ai-porn/
https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.politico.com/story/2019/06/13/facebook-deep-fakes-2020-1527268
https://www.washingtonpost.com/video/postlive/sen-amy-klobuchar-says-doctored-videos-deep-fakes-are-threat-to-us-election-integrity/2019/07/22/ed9e9ed7-eb4e-4b5d-9410-3cef213e0151_video.html
https://www.rubio.senate.gov/public/index.cfm/press-releases?ID=282AC366-ED49-4C5A-9EA2-54AA9DB18B2B
https://mashable.com/2018/02/02/what-are-deepfakes/
https://slate.com/technology/2019/06/how-to-spot-deepfake-videos.html
https://www.reddit.com/r/GifFakes/
https://www.fastcompany.com/90367288/how-scientists-are-fighting-back-against-the-coming-deepfake-sht-show
https://www.businessinsider.com/deepfake-tech-create-fictitious-faces-cats-airbnb-listings-2019-2
http://thispersondoesnotexist.com/
https://www.fastcompany.com/90379001/criminals-are-using-deepfakes-to-impersonate-ceos
https://www.vice.com/en_us/article/kz4amx/fsgan-program-makes-it-even-easier-to-make-deepfakes
https://mashable.com/2018/02/02/what-are-deepfakes/
https://www.buzzfeednews.com/article/davidmack/obama-fake-news-jordan-peele-psa-video-buzzfeed
https://www.vice.com/en_us/article/paj88g/watching-a-deepfake-being-made-is-boring-and-you-must-see-it
https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
https://www.theverge.com/2018/1/30/16945494/deepfakes-porn-face-swap-legal
https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6#in-july-2018-over-a-million-people-watched-an-edited-video-of-an-alexandria-ocasio-cortez-interview-that-made-her-appear-as-if-she-lacked-answers-to-numerous-questions-7
https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.businessinsider.com/deepfakes-explained-the-rise-of-fake-realistic-videos-online-2019-6#in-june-2019-a-deepfake-of-mark-zuckerberg-appeared-on-instagram-facebook-also-decided-to-leave-it-up-setting-a-precedent-for-leaving-manipulated-videos-on-their-platforms-9
https://slate.com/technology/2019/06/how-to-spot-deepfake-videos.html
https://www.theverge.com/2018/2/7/16982046/reddit-deepfakes-ai-celebrity-face-swap-porn-community-ban
https://www.engadget.com/2018/02/07/twitter-joins-those-banning-deepfake-ai-porn/
https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/
https://www.politico.com/story/2019/06/13/facebook-deep-fakes-2020-1527268
https://www.washingtonpost.com/video/postlive/sen-amy-klobuchar-says-doctored-videos-deep-fakes-are-threat-to-us-election-integrity/2019/07/22/ed9e9ed7-eb4e-4b5d-9410-3cef213e0151_video.html
https://www.rubio.senate.gov/public/index.cfm/press-releases?ID=282AC366-ED49-4C5A-9EA2-54AA9DB18B2B
https://mashable.com/2018/02/02/what-are-deepfakes/
https://slate.com/technology/2019/06/how-to-spot-deepfake-videos.html
https://www.reddit.com/r/GifFakes/
https://www.fastcompany.com/90367288/how-scientists-are-fighting-back-against-the-coming-deepfake-sht-show
https://www.businessinsider.com/deepfake-tech-create-fictitious-faces-cats-airbnb-listings-2019-2
http://thispersondoesnotexist.com/
https://www.fastcompany.com/90379001/criminals-are-using-deepfakes-to-impersonate-ceos
https://www.vice.com/en_us/article/kz4amx/fsgan-program-makes-it-even-easier-to-make-deepfakes
0 komentar