| Youtube | Content ID | AI | Deepfake

YouTube正在開發AI檢測工具,防止創作者的影像及聲音被複製

避免創作者個人影像與聲音遭他人以深偽技術複製濫用,YouTube的版權內容管理工具將加入偵測生成式AI的能力

2024-09-06

| Deepfake | 資安AI | Deepfake Detection

協助消費者辨識與警示AI深偽詐騙視訊,趨勢提供免費工具

趨勢科技在7月底釋出深偽詐騙視訊檢測工具,目前可安裝在Windows電腦,幫你警示對方的視訊會議人像是否透過AI假造

2024-08-26

| Google搜尋 | 安全政策 | 深度偽造 | Deepfake

Google更新搜尋安全政策,簡化使用者移除偽造裸露圖像的流程

針對受害者要求撤除搜尋結果中出現的AI偽造不雅照連結,Google承諾擴大處理範圍,系統會自動於其他類似搜尋中過濾移除所有相關結果

2024-08-01

| Youtube | 馬斯克 | Elon Musk | 加密貨幣 | 詐騙 | Deepfake

YouTube平臺出現馬斯克Deepfake影片企圖詐騙加密貨幣,吸引3萬人同時收看

入侵知名企業或名人的網路服務帳號,對其支持者進行金融詐騙的手法頻傳,本周YouTube平臺便出現將特斯拉公司發布的馬斯克公開影片改造成深偽影片,企圖誘騙支持者造訪指定網站並轉出數位貨幣,影片被檢舉下架前5個小時,曾吸引至少3萬人同時觀看

2024-06-25

| SEO poisoning | Nudifier AI | Deepfake | Void Arachne | Telegram | Winos 4.0

駭客組織Void Arachne鎖定中國用戶,假借提供VPN軟體、Deepfake人工智慧工具散布惡意程式Winos

研究人員發現專門鎖定中國用戶的後門程式Winos 4.0攻擊行動,駭客組織Void Arachne藉由提供VPN軟體、Deepfake生成式人工智慧程式,藉由搜尋引擎廣告,以及Telegram頻道來散布惡意軟體

2024-06-21

| OpenAI | C2PA | Deepfake

OpenAI加入C2PA指導委員會,測試Deepfake圖像偵測工具

透過加入C2PA指導委員會,OpenAI將與其他科技大廠合作發展內容憑證機制以規範AI生成的數位內容,OpenAI也宣布提供自家Deepfake偵測工具供外界進行測試,協助使用者辨識內容是否出自AI

2024-05-08

| 資安日報 | 間諜軟體 | 商業間諜軟體 | Sisense | LastPass | Deepfake | BMC | Lighttpd | 聯合再生

【資安日報】4月12日,蘋果一口氣對92個國家發出間諜軟體攻擊警報,要求受影響用戶應儘速採取保護措施

本週蘋果罕見發布公告,指出他們已對部分疑似被間諜軟體針對的用戶提出警告,要求這些用戶要採取行動,並尋求專家協助來保護自己

2024-04-12

| Deepfake | LastPass

LastPass員工遭遇語音網釣攻擊,駭客透過Deepfake冒充該公司執行長行騙

密碼管理解決方案業者LastPass證實員工遭遇Deepfake語音詐騙的情況,所幸這名員工察覺有異並未上當

2024-04-12

| OpenAI | 圖像生成 | AI模型 | DALL-E 3 | 漏洞 | Deepfake

微軟員工發現DALL-E 3生成不當圖片的漏洞,遭公司下封口令

微軟軟體工程部門經理Shane Jones向美國國會議員及華盛頓州檢察長陳情,Jones發現DALL-E 3模型含有漏洞,可被濫用於生成含有暴力、色情內容的深偽圖片,但他卻因微軟要求不得對外聲張而被迫噤聲

2024-02-01

| 深度偽造 | Deepfake | Microsoft Designer | 生成式AI

被指用來生成Taylor Swift假裸照,微軟修改文字轉圖像模型Designer

媒體404 Media發現網路流傳的提示輸入手法,的確能夠繞過Microsoft Designer的安全機制,成功生成名人假裸照。微軟雖未證實Taylor Swift假裸照風波是否因自家文字轉圖像AI工具而起,但已經修補了Designer被有心人士惡意利用的相關漏洞

2024-01-30

| 生成式AI | AI詐騙 | 社交工程 | Deepfake | 釣魚

面對AI詐騙,更要有網路風險基本認知

大家可以想像,網路世界的門牌號碼就是要認清「網域」,一旦走錯,就不會走到原本要到的地方,很多釣魚網站只是大門的布置很像,實際門牌號碼根本不同,但如果我們充分具備識別真偽的能力,就不會上當

2023-12-29

| AI | Deepfake | 巴基斯坦 | Imran Khan

巴基斯坦前總理以Deepfake聲音向群眾發表演說

巴基斯坦前總理Imran Khan領導的PTI黨透過AI業者的deep fake技術,讓目前人在監獄的Imran Khan也能在社群平臺發表演說

2023-12-20