Bagaimana Apple, Google dan Microsoft boleh menyelamatkan kita daripada AI deepfakes

Peningkatan kandungan yang dijana AI telah membawa kedua-dua inovasi dan kebimbangan ke hadapan landskap media digital. Imej, video dan rakaman suara hiper-realistik — setelah kerja pereka dan jurutera pakar — kini boleh dibuat oleh sesiapa sahaja yang mempunyai akses kepada alatan seperti DALL-E, Midjourney dan Sora. Teknologi ini telah mendemokrasikan penciptaan kandungan, membolehkan artis, pemasar dan penggemar untuk menolak sempadan kreatif.

Walau bagaimanapun, dengan kebolehcapaian ini terdapat sisi yang lebih gelap — disinformasi, kecurian identiti dan penipuan. Pelakon berniat jahat boleh menggunakan alat ini untuk menyamar sebagai tokoh awam, menyebarkan berita palsu atau memanipulasi orang ramai untuk kepentingan politik atau kewangan.

Keputusan Disney untuk mencipta semula suara James Earl Jones secara digital untuk masa hadapan Perang Bintang filem adalah contoh jelas teknologi ini memasuki penggunaan arus perdana. Walaupun ini menunjukkan potensi AI dalam hiburan, ia juga berfungsi sebagai peringatan tentang risiko yang ditimbulkan oleh teknologi replikasi suara apabila dieksploitasi untuk tujuan berbahaya.

Memandangkan kandungan yang dijana AI mengaburkan garis antara realiti dan manipulasi, gergasi teknologi seperti Google, Apple dan Microsoft mesti mengetuai usaha untuk melindungi keaslian dan integriti kandungan. Ancaman yang ditimbulkan oleh pemalsuan mendalam bukanlah hipotesis — ia merupakan kebimbangan yang berkembang pesat yang memerlukan kerjasama, inovasi dan piawaian yang ketat.

Peranan C2PA dalam ketulenan kandungan

The Gabungan untuk Asal Kandungan dan Ketulenandiketuai oleh Yayasan Linux, ialah badan piawaian terbuka yang berusaha untuk mewujudkan kepercayaan dalam media digital. Dengan membenamkan metadata dan tera air ke dalam imej, video dan fail audio, Spesifikasi C2PA memungkinkan untuk menjejak dan mengesahkan asal usul, penciptaan dan sebarang pengubahsuaian kandungan digital.

Dalam beberapa bulan kebelakangan ini, Google telah meningkatkan penglibatannya dengan C2PA dengan ketaramenyertai jawatankuasa pemandu. Langkah ini menyusul Keputusan Meta untuk menyertai jawatankuasa yang sama pada awal September 2024menandakan peningkatan ketara dalam penyertaan industri.

Google kini menyepadukan Bukti Kelayakan Kandungan C2PA ke dalam perkhidmatan terasnya, termasuk Carian Google, Iklan dan, akhirnya, YouTube. Dengan membenarkan pengguna melihat metadata dan mengenal pasti sama ada imej telah dibuat atau diubah menggunakan AI, Google berhasrat untuk memerangi penyebaran kandungan yang dimanipulasi secara besar-besaran.

Microsoft juga telah membenamkan C2PA ke dalam alat utamanyaseperti Designer dan CoPilot, memastikan semua kandungan AI yang dibuat atau diubah suai kekal dapat dikesan. Langkah ini melengkapkan kerja Microsoft Asal Projekyang menggunakan tandatangan kriptografi untuk mengesahkan integriti kandungan digital, mewujudkan pendekatan berbilang lapisan kepada asal.

Walaupun Google dan Microsoft telah mengambil langkah penting dengan mengguna pakai teknologi asal kandungan seperti C2PA, ketiadaan Apple daripada inisiatif ini menimbulkan kebimbangan mengenai komitmennya terhadap usaha kritikal ini. Walaupun Apple secara konsisten mengutamakan privasi dan keselamatan dalam program seperti Kepintaran Applekekurangan penglibatan awam dalam C2PA atau teknologi serupa meninggalkan jurang yang ketara dalam kepimpinan industri. Dengan bekerjasama dengan Google dan Microsoft, Apple boleh membantu mewujudkan barisan yang lebih bersatu dalam memerangi maklumat yang didorong oleh AI dan mengukuhkan pendekatan keseluruhan terhadap ketulenan kandungan.

Ahli C2PA yang lain

Kumpulan organisasi yang pelbagai menyokong C2PAmeluaskan capaian dan penggunaan piawaian ini merentas industri. Keahlian termasuk:

• Amazon: Melalui AWS, Amazon memastikan C2PA disepadukan ke dalam perkhidmatan awan, memberi kesan kepada perniagaan merentas industri.
• Intel: Sebagai peneraju dalam perkakasan, Intel membenamkan piawaian C2PA di peringkat infrastruktur.
• Truepic: Terkenal dengan tangkapan imej selamat, Truepic menyediakan ketulenan kandungan dari saat media dicipta.
• lengan: Memperluas C2PA ke dalam IoT dan sistem terbenam, meluaskan skop pengesahan kandungan.
• BBC: Menyokong C2PA untuk mengesahkan media berita, membantu memerangi maklumat salah dalam kewartawanan.
• Sony: Memastikan C2PA digunakan pada peranti hiburan, menyokong pengesahan kandungan dalam media.

Mencipta ekosistem hujung ke hujung untuk pengesahan kandungan

Agar kandungan deepfakes dan AI dijana dengan betul, ekosistem hujung ke hujung yang lengkap untuk pengesahan kandungan mesti diwujudkan. Ekosistem ini akan merangkumi sistem pengendalian, alat penciptaan kandungan, perkhidmatan awan dan platform sosial untuk memastikan media digital boleh disahkan pada setiap peringkat kitaran hayatnya.

• Sistem pengendalian seperti Windows, macOS, iOS, Androiddan sistem terbenam untuk peranti dan kamera IoT mesti menyepadukan C2PA sebagai perpustakaan teras. Ini memastikan bahawa mana-mana fail media yang dibuat, disimpan atau diubah pada sistem ini secara automatik membawa metadata yang diperlukan untuk keaslian, menghalang manipulasi kandungan.
• Sistem pengendalian terbenam amat penting dalam peranti seperti kamera dan perakam suara, yang menjana jumlah media yang besar. Contohnya, rakaman keselamatan atau rakaman suara yang ditangkap oleh peranti ini mesti ditanda air untuk mengelakkan manipulasi atau penyalahgunaan. Mengintegrasikan C2PA pada tahap ini menjamin kebolehkesanan kandungan, tanpa mengira aplikasi yang digunakan.
• Platform seperti Adobe Creative Cloud, Microsoft Office dan Final Cut Pro mesti membenamkan piawaian C2PA dalam perkhidmatan dan penawaran produk mereka untuk memastikan imej, video dan fail audio disahkan pada peringkat penciptaan. alatan sumber terbuka seperti GIMP juga harus menerima pakai piawaian ini untuk mencipta proses pengesahan kandungan yang konsisten merentas platform profesional dan amatur.
• Platform awan, termasuk Google Cloud, Azure, AWS, Oracle Cloud dan iCloud Applemesti mengguna pakai C2PA untuk memastikan kandungan yang dijana AI dan dihoskan awan boleh dikesan dan sahih dari saat ia dicipta. Alat AI berasaskan awan menjana sejumlah besar media digital, dan penyepaduan C2PA akan memastikan ciptaan ini boleh disahkan sepanjang kitaran hayatnya.
• SDK untuk apl mudah alih mendayakan penciptaan atau pengubahsuaian kandungan mesti mempunyai C2PA sebagai sebahagian daripada API pembangunan teras mereka, memastikan semua media yang dijana pada telefon pintar dan tablet segera ditanda air dan boleh disahkan. Sama ada untuk fotografi, penyuntingan video atau rakaman suara, apl mesti memastikan kandungan pengguna mereka kekal tulen dan boleh dikesan.

Ekosistem media sosial dan aplikasi

Platform media sosial seperti Meta, TikTok, X dan YouTube adalah antara saluran pengedaran terbesar untuk kandungan digital. Apabila platform ini terus menyepadukan keupayaan AI generatif, peranan mereka dalam pengesahan kandungan menjadi lebih kritikal. Skala besar kandungan yang dijana pengguna dan peningkatan penciptaan media dipacu AI menjadikan platform ini penting untuk memastikan keaslian media digital.

Kedua-dua X dan Meta telah memperkenalkan alat GenAI untuk penjanaan imej. xAI baru-baru ini mengeluarkan Grok 2 membolehkan pengguna mencipta imej yang sangat realistik daripada gesaan teks. Namun, ia tidak mempunyai pagar untuk menghalang penciptaan kandungan yang kontroversi atau mengelirukan, seperti gambaran realistik tokoh awam. Kekurangan pengawasan ini menimbulkan kebimbangan tentang keupayaan X untuk menguruskan maklumat yang salah, terutamanya memandangkan Elon Musk keengganan untuk melaksanakan penyederhanaan kandungan yang mantap.

Begitu juga, alat Meta’s Imagine dengan Meta, dikuasakan oleh model penjanaan imej Emu dan Llama 3 AI, membenamkan GenAI terus ke dalam platform seperti Facebook, WhatsApp, Instagram dan Threads. Memandangkan penguasaan X dan Meta dalam penciptaan kandungan dipacu AI, mereka harus dianggap bertanggungjawab untuk melaksanakan alat asal kandungan yang teguh yang memastikan ketelusan dan keaslian.

Walaupun Meta menyertai jawatankuasa pemandu C2PA, ia masih belum melaksanakan sepenuhnya piawaian C2PA di seluruh platformnya, meninggalkan jurang dalam komitmennya terhadap integriti kandungan. Walaupun Meta telah mengorak langkah melabelkan imej yang dijana AI dengan tag “Imagined with AI”. dan membenamkan tera air dan metadata C2PA dengan kandungan yang dijana pada platformnya, kemajuan ini masih belum meluas merentasi semua aplnya, termasuk menyediakan rantaian asal untuk bahan yang dimuat naik yang telah dijana atau diubah secara luaran, melemahkan keupayaan Meta untuk menjamin kebolehpercayaan media dikongsi di seluruh platformnya.

Sebaliknya, X tidak terlibat dengan C2PA sama sekali, mewujudkan kerentanan yang ketara dalam ekosistem pengesahan kandungan yang lebih luas. Kegagalan platform untuk menerima pakai piawaian pengesahan kandungan dan keupayaan penjanaan imej Grok yang tidak terkawal mendedahkan pengguna kepada media yang realistik tetapi mengelirukan. Jurang ini menjadikan X sasaran mudah untuk maklumat salah dan salah maklumat, kerana pengguna kekurangan alat untuk mengesahkan asal usul atau ketulenan kandungan yang dijana AI.

Dengan mengguna pakai piawaian C2PA, kedua-dua Meta dan X boleh melindungi pengguna mereka dan ekosistem digital yang lebih luas daripada risiko manipulasi media yang dijana AI. Tanpa langkah sedemikian, ketiadaan sistem pengesahan kandungan yang mantap meninggalkan jurang kritikal dalam melindungi daripada maklumat yang salah, menjadikannya lebih mudah bagi pelakon jahat untuk mengeksploitasi platform ini. Masa depan penciptaan kandungan dipacu AI mesti termasuk alat asal yang kukuh untuk memastikan ketelusan, ketulenan dan akauntabiliti.

Memperkenalkan blok kebolehkesanan untuk aset digital

Blockchain kebolehkesanan boleh mewujudkan sistem kalis gangguan untuk menjejak aset digital untuk meningkatkan pengesahan kandungan. Setiap pengubahsuaian yang dibuat pada sekeping media dilog pada lejar blockchain, memastikan ketelusan dan keselamatan daripada penciptaan hingga pengedaran. Sistem ini akan membenarkan pencipta kandungan, platform dan pengguna untuk mengesahkan integriti media digital, tidak kira berapa kali ia telah dikongsi atau diubah.

• Hash kriptografi: Setiap bahagian kandungan akan diberikan cincangan kriptografi unik semasa penciptaan. Setiap pengubahsuaian seterusnya mengemas kini cincangan, yang kemudiannya direkodkan pada blockchain.
• Rekod yang tidak boleh diubah: Lejar rantaian blok — diselenggara oleh ahli C2PA seperti Google, Microsoft dan pihak berkepentingan utama yang lain — akan memastikan bahawa sebarang suntingan kepada media kekal kelihatan dan boleh disahkan. Ini akan mencipta sejarah kitaran hayat kandungan yang kekal dan tidak boleh diubah.
• Rantaian jagaan: Setiap perubahan pada sekeping kandungan akan direkodkan, membentuk rantaian jagaan yang tidak terputus. Ini akan memastikan bahawa walaupun kandungan dikongsi, disalin atau diubah suai, ketulenan dan asalnya sentiasa boleh dikesan kembali ke sumbernya.

Dengan menggabungkan piawaian C2PA dengan teknologi blockchain, ekosistem digital akan mencapai ketelusan yang lebih tinggi, menjadikannya lebih mudah untuk menjejaki media yang dijana dan diubah oleh AI. Sistem ini akan menjadi perlindungan penting terhadap pemalsuan dan maklumat salah, membantu memastikan kandungan digital kekal boleh dipercayai dan sahih.

Pengumuman baru-baru ini oleh Yayasan Linux untuk menubuhkan a Amanah Terpencar inisiatif, yang merangkumi lebih 100 ahli pengasas, mengukuhkan lagi model ini. Sistem ini akan mewujudkan rangka kerja untuk mengesahkan identiti digital merentas platform, meningkatkan usaha kebolehkesanan blockchain dan menambah satu lagi lapisan akauntabiliti dengan membenarkan identiti digital yang selamat dan boleh disahkan. Ini akan memastikan bahawa pencipta kandungan, editor dan pengedar disahkan sepanjang keseluruhan kitaran hayat kandungan.

Laluan ke hadapan untuk asal kandungan

Usaha kolaboratif antara Google, Microsoft dan Apple adalah penting untuk mengatasi peningkatan disinformasi yang dijana oleh AI. Walaupun Google, Microsoft dan Meta telah mula menyepadukan piawaian C2PA ke dalam perkhidmatan mereka, ketiadaan Apple dan X dalam usaha ini meninggalkan jurang yang ketara. Rangka kerja Yayasan Linux, menggabungkan kebolehkesanan blockchain, asal kandungan C2PA dan pengesahan identiti yang diedarkan, menawarkan penyelesaian yang komprehensif untuk mengurus cabaran kandungan yang dijana AI.

Dengan mengguna pakai teknologi ini merentas platform, industri teknologi boleh memastikan ketelusan, keselamatan dan akauntabiliti yang lebih tinggi. Membenamkan penyelesaian ini akan membantu memerangi pemalsuan mendalam dan mengekalkan integriti media digital, menjadikan kerjasama dan piawaian terbuka kritikal untuk membina masa depan digital yang dipercayai.