《漫畫編輯遇詐騙》替出版社拍片介紹雜誌 卻被當成AI偽造聲音的素材了?
圖片來自:https://www.youtube.com/watch?v=I2Qa91XpQDo
近年來隨著AI技術的進步,詐騙手法也隨之不斷地翻新,只要餵給AI足夠的素材,任何人的圖片、聲音到影像都能夠輕鬆偽造出來。那麼如果像YouTuber一樣,拍攝自己的影片上網公開的人,是不是就等同於為詐騙集團提供素材呢?最近日本一位名叫「フジカワ」的漫畫編輯,就碰上詐騙集團偽造他的聲音,差點騙到家人的事情。而他懷疑自己之前替出版社拍了很多影片介紹雜誌內容,就是詐騙集團取得聲音素材的來源!以下就跟著宅宅新聞一起來看看,這是怎麼一回事吧~~
原汁原味的內容在這裡「聽說我老家接到一通詐騙電話,說我炒股賠了很多錢,如果明天之前不匯400萬日圓,就會強制查封我的資產(假如我連400萬都沒有,哪來的資產查封啦)。結果我媽居然信了,還跑去跟親戚低聲下氣地湊了400萬,準備幫我匯款。幸好她在匯款前想先打電話確認一下……這才發現是詐騙。這世界真的太可怕了。」
圖片來自:https://x.com/magazinefuji/status/1942522660614807806
日本一位名叫フジカワ(Fujikawa),在講談社擔任漫畫編輯的網友,最近在X發文分享自己家人碰上詐騙,差點就要損失慘重的事情,引發熱烈反響!
根據フジカワ(Fujikawa)表示,詐騙集團偽造他的聲音,打電話給他的家人,騙過了媽媽和哥哥。而他哥哥後來懷疑,詐騙集團能夠將他的聲音偽造得唯妙唯肖,或許跟他公開了太多的聲音素材有關……
「媽媽是和我哥一起聽到那通詐騙電話的,結果他們都說那聲音根本就是我本人。我哥猜詐騙集團可能是從YouTube影片裡抓我的聲音資料,再用AI模仿出來的聲音。我雖然懷疑真的辦得到這種事嗎!?但無論如何,大家真的要多加小心。另外那通電話聽說是隱藏號碼的。」
圖片來自:https://x.com/magazinefuji/status/1942522660614807806
原來フジカワ(Fujikawa)曾經替出版社拍過好幾部影片,介紹當週出版的雜誌內容。
雖然這些影片每一集可能只有幾分鐘,但是全部加一加也有好幾個小時的長度,作為餵給AI的素材來說應該很足夠了!?
フジカワ(Fujikawa)宣傳當週雜誌的影片
圖片來自:マガジンチャンネル
他在影片當中不斷說話,提供了非常多的聲音素材
圖片來自:https://www.youtube.com/watch?v=Gy8zf3lr5u8
圖片來自:https://www.youtube.com/watch?v=Gy8zf3lr5u8
圖片來自:https://www.youtube.com/watch?v=Gy8zf3lr5u8
圖片來自:https://www.youtube.com/watch?v=Gy8zf3lr5u8
(@д@)看來有拍影片放上網的大家,都要請家人多加小心啊……


0 則回應
順序: 新│舊