Meredith Whittaker

Meredith Whittaker adalah presiden Signal Foundation dan menjabat di dewan direksinya. Sebelumnya, ia adalah Profesor Riset Minderoo di Universitas New York, dan penasihat utama serta mantan direktur fakultas & salah satu pendiri AI Now Institute.

Kutipan

1. "It costs hundreds of millions of dollars to train these models," Artinya: "Biaya pelatihan model-model ini mencapai ratusan juta dolar,"
2. "So there is deep pressure from companies — that are basically promising God and delivering email prompts — to make some return on investment in this technology.”. Artinya: "Jadi, ada tekanan yang sangat besar dari perusahaan-perusahaan — yang pada dasarnya hanya menjanjikan sesuatu kepada Tuhan dan mengirimkan email berisi ajakan — untuk mendapatkan imbal hasil atas investasi mereka dalam teknologi ini."
3. “So we can just put our brain in a jar because the thing is doing that and we don’t have to touch it, right?,” Arinya: "Jadi, kita bisa memasukkan otak kita ke dalam toples karena benda itu sudah melakukan hal itu dan kita tidak perlu menyentuhnya, bukan?,”
4. “It would need to be able to drive that [process] across our entire system with something that looks like root permission, accessing every single one of those databases — probably in the clear, because there’s no model to do that encrypted,”Artinya: “Proses tersebut harus dapat dijalankan di seluruh sistem kami dengan izin yang tampak seperti izin root, yang dapat mengakses setiap basis data tersebut — mungkin dengan aman, karena tidak ada model yang dapat melakukan hal tersebut secara terenkripsi,”
5. “And if we’re talking about a sufficiently powerful … AI model that’s powering that, there’s no way that’s happening on device,” she continued. “That’s almost certainly being sent to a cloud server where it’s being processed and sent back. So there’s a profound issue with security and privacy that is haunting this hype around agents, and that is ultimately threatening to break the blood-brain barrier between the application layer and the OS layer by conjoining all of these separate services [and] muddying their data,” . Artinya: "Dan jika kita berbicara tentang model AI yang cukup kuat ... yang mendukungnya, mustahil hal itu terjadi di perangkat," lanjutnya. "Data itu hampir pasti dikirim ke server cloud tempat data tersebut diproses dan dikirim kembali. Jadi, ada masalah keamanan dan privasi yang mendalam yang menghantui hype seputar agen ini, dan yang pada akhirnya mengancam untuk menembus batas antara lapisan aplikasi dan lapisan OS dengan menggabungkan semua layanan terpisah ini [dan] mengaburkan data mereka"