《日本科學作家くられ》用ChatGPT協助寫作被鎖帳號了 問武器的相關知識是大忌？

圖片來自：https://nijimen.kusuguru.co.jp/topics/547296

隨著近年來AI的迅速進步，如今AI已經成為了各行各業不可或缺的生產力工具，即便對於罪犯來說也一樣。而為了避免成為犯罪的幫兇，許多AI工具都會針對使用者輸入的內容做出嚴格的規範。一旦使用者觸犯到這些規範，輕則可能被暫停使用一陣子，重則可能直接就被封鎖帳號了。最近日本科學系作家兼YouTuber「くられ」，就因為跟ChatGPT討論到可能作為武器的相關知識，遭到直接封鎖帳號的處分！以下就跟著宅宅新聞一起來看看，這是怎麼一回事吧……

くられ（Kurare）

圖片來自：https://www.kodomonokagaku.com/jiyukenkyu-fes202307302/

くられ（Kurare）是日本一位經常以科學研究、生活理化與毒物知識為主題，從事創作的作家兼YouTuber。同時也有在人氣漫畫《Dr.STONE 新石紀》當中，從事科學監修的工作。

而他最近就在Ｘ發文，抱怨起了自己因為借助ChatGPT的力量從事創作，卻突然遭到封鎖帳號的事情……

「ChatGPT的帳號突然被停權了。理由似乎是違反了武器製造的規定，我只是為了創作小說在查資料，卻突然彈出橘色警告並直接封號。雖然提出了異議，但隔了半天之後的答覆仍是維持原判。雖然多虧還有優秀的Gemini，所以沒有造成致命的影響，但是這種處理過程全由AI應對的機制真的很令人困擾……」

圖片來自：https://x.com/reraku/status/2015576327307632715

根據くられ（Kurare）表示，他最近藉助了ChatGPT的力量，整理了一些用於寫作的資料。但或許因為問到一些跟武器有關的資訊，導致他被判定為打算製造武器做壞事，於是帳號無預警地整個被封鎖了！

此話一出，許多網友也陸續分享自己曾經被ChatGPT警告，或是遭到停權的經歷。而くられ（Kurare）也繼續補充說……

「聽說當出現不同顏色的警告框時，最好乖乖聽話，但似乎也沒有明確的應對方法。以我的專業背景，之前查詢過治安更差的內容都沒被警告過，或許它的判斷基準就是那種『看似稀鬆平常卻很危險』的內容吧。」

圖片來自：https://x.com/reraku/status/2015576928233857064

「ChatGPT很煩的一點是，明明是在詢問安全性的問題，它卻覺得使用者想要做壞事。像是我看到有人問『浴廁清潔劑混在一起會不會怎樣？』，竟然也會被警告『違反武器製造規定』之類的。」

圖片來自：https://x.com/reraku/status/2015581387143929898

「稍微爬了一下文，發現好像很多人也是沒收到警告，沒被告知標準在哪，就被直接封鎖帳號了。」

圖片來自：https://x.com/reraku/status/2015597836956815367

「我都已經先打過預防針，說我只是要創作上的設定，只要９成的人看起來『很像那麼回事』就好，不需要提供太詳細的資訊，結果還是直接被封鎖，真的讓我傻眼了……」

圖片來自：https://x.com/reraku/status/2015627592930619425

「要從頭開始建立設定真的是太累人了，所以我想我暫時應該都不會想碰它了……」

圖片來自：https://x.com/reraku/status/2015617980672225708

くられ（Kurare）還表示，雖然他也知道Gemini很好用，但他還是比較偏好使用ChatGPT。原因在於Gemini跟Google帳號連動，讓他很擔心一旦出事，就會導致他的YouTube頻道一起消失啊！

「關於向生成式AI提問存在風險這件事，我不把Gemini當成主力工具的原因，正是因為它與Google帳號連動，一不小心說不定連YouTuber頻道都會被一併刪除了。聽說確實有過這種案例，真的很恐怖。

譬如發現學生被虐待，找它商量卻被當成讚頌暴力。或是想要詢問清潔劑的安全性，卻被當成要準備恐攻。還有上傳小孩的照片，就被判定是兒童色情。名人上傳自己的修圖照片，就被當成深偽影像。諸如此類兩光的行徑我聽過太多了。

加上最近美國的政治情勢不穩，可能也因此導致相關規範被直接拉高，讓人不得不思考該如何使用這些AI了。」

圖片來自：https://x.com/reraku/status/2015637328719663543

這串文章引發網友熱烈議論，之後過了一天，くられ（Kurare）表示他收到來自ChatGPT官方的聯繫了！

「欸——這件事情似乎鬧得太大，連OpenAI的員工都跑來找我，還說要幫我拿回帳號了。但我直接說結論，因為我覺得只有自己讓人開特例並不公平，所以我拒絕了。

我跟他們說，以後要是想改善申訴機制，或是想聽日本創作者的意見，我隨時可以幫忙。

我也有問過他們，能不能將這些事情推特上，所以才向各位報告。總之希望以後服務能夠改善……拜託囉！」

圖片來自：https://x.com/reraku/status/2015933579675808182?utm_source=yjrealtime&utm_medium=search

（　´_ゝ`）這種事情最煩的，就是即便申訴也不會有真人出面處理啊……

新奇,創作,武器,Twitter,推特,作家,X,AI,誤會,YouTuber,網友看法,Dr.STONE,Dr.STONE新石紀,新石紀,chatgpt, Gemini