Lightnews — Scholar-powered news

ペンギン @penpenguin2023.bsky.social · 13h

『ゲオルギエワ専務理事は１３日、人工知能（ＡＩ）の急速な発達に対して世界各国は「未来に向けたＡＩの規制倫理基盤はまだ整っていない」とし、規制や倫理の基盤が不足しているとの認識を示した。』

世界各国、ＡＩ発達への規制や倫理の基盤が不足＝ＩＭＦ専務理事
jp.reuters.com/markets/japa...

世界各国、ＡＩ発達への規制や倫理の基盤が不足＝ＩＭＦ専務理事

国際通貨基金（ＩＭＦ）のゲオルギエワ専務理事は１３日、人工知能（ＡＩ）の急速な発達に対して世界各国は「未来に向けたＡＩの規制倫理基盤はまだ整っていない」とし、規制や倫理の基盤が不足しているとの認識を示した。その上で、市民団体に対して「自分の国で、現状維持では後れを取ると警鐘を鳴らしてほしい」と促した。

jp.reuters.com

11 36

ペンギン @penpenguin2023.bsky.social · 13h

『OpenAI（オープンエーアイ）が発表した最新の報告書は、チャットボットの不正利用防止とユーザーのプライバシー保護の狭間で綱渡りするAI企業の現状を浮き彫りにしています。』

AIが悪の片棒を担いではいけない。OpenAIはこうして利用監視している
www.gizmodo.jp/2025/10/open...

AIが悪の片棒を担いではいけない。OpenAIはこうして利用監視している

AIにさらけ出し過ぎな人や組織が多すぎやしませんか…。OpenAI（オープンエーアイ）が発表した最新の報告書は、チャットボットの不正利用防止とユーザーのプライバシー保護の狭間で綱渡りするAI企業の現状を浮き彫りにしています。OpenAIの不正利用防止対策報告書では、OpenAIが自社モデルが調査・阻止した詐欺やサイバー攻撃、政府関連の情報操作などの事例を紹介しています。報告書は、チャットボットに

www.gizmodo.jp

9 16

ペンギン @penpenguin2023.bsky.social · 13h

『米カリフォルニア州のギャビン・ニューサム知事は13日、AIチャットボットを規制する初の法案に署名した。これはホワイトハウスがこのテクノロジーを規制しないよう求める動きに反するものだ。』

米加州、AIチャットボットの安全対策を義務付ける米国初の法律を制定
www.afpbb.com/articles/-/3...

米加州、AIチャットボットの安全対策を義務付ける米国初の法律を制定

【10月14日 AFP】米カリフォルニア州のギャビン・ニューサム知事は13日、AIチャットボットを規制する初の法案に署名した。これはホワイトハウスがこのテクノロジーを規制しないよう求める動きに反するものだ

www.afpbb.com

10 32

ペンギン @penpenguin2023.bsky.social · 13h

『慎重な実装がなければ、AIは脆弱な集団に対するバイアスのリスク、プライバシーの侵害、そして介護、教育、リーダーシップに不可欠な人間中心の価値観の侵食をもたらす可能性がある。』

AIの高い代償：倫理がなぜ先導すべきなのか
forbesjapan.com/articles/det...

AIの高い代償：倫理がなぜ先導すべきなのか | Forbes JAPAN 公式サイト（フォーブスジャパン）

ベン・セメスはRethinkFirstの最高経営責任者（CEO）である。AIは私たちの生活や仕事の仕方を再形成しつつある—そしてその影響は医療、教育、職場において最も重大かもしれない。治療計画や管理業務の最適化から、学習の個別化、生産性の向...

forbesjapan.com

10 24

ペンギン @penpenguin2023.bsky.social · 13h

🔒記事
『ソーシャルメディアのフィードは人工知能（AI）が生成したくだらないテキスト、動画、画像であふれている。だが耳もふさいだ方がいい。音楽のプレイリストも間もなく同じようになるかもしれないからだ。』

粗悪な生成AIコンテンツ、音楽産業どう向き合う（Lex）
www.nikkei.com/prime/ft/art...

粗悪な生成AIコンテンツ、音楽産業どう向き合う（Lex） - 日経FTザ・ワールド

スポティファイはAI生成の楽曲7500万曲を削除した=ロイターインターネットは粗悪なコンテンツだらけだ。トランポリン遊具で跳ねるウサギから「エビのイエス」（宗教的イメージと甲殻類を合体させる奇妙なジャンル）まで、ソーシャルメディアのフィードは人工知能（AI）が生成したくだらないテキスト、動画、画像であふれている。だが耳もふさいだ方がいい。音楽のプレイリストも間もなく同じようになるかもしれないからだ...

www.nikkei.com

14 29

ペンギン @penpenguin2023.bsky.social · 13h

『ミラーク氏は、「生成AIは常に計算だけを行っています。それ以上のものであると誤解するべきではありません」と述べました。』

AIはあくまで「言葉の計算機」に過ぎずユーザーが想像するような思考や推論はしていないと専門家が指摘
gigazine.net/news/2025101...

AIはあくまで「言葉の計算機」に過ぎずユーザーが想像するような思考や推論はしていないと専門家が指摘

AIについて表す比喩には「ブラックボックス」や「オウム」などさまざまなものがあり、OpenAIのサム・アルトマンCEOによって広められた「言葉の計算機」というたとえも有名です。この言葉の計算機という比喩について、オーストラリアのカーティン大学でメディア・創造芸術・社会探究学部講師を務めるエルディン・ミラーク氏が解説しています。

gigazine.net

25 62

ペンギン @penpenguin2023.bsky.social · 13h

『CyberNewsは10月8日(現地時間)、「AI girlfriend data breach: 400K+ users affected | Cybernews」において、2つのAIコンパニオンアプリ(AI彼女アプリ)から個人情報が流出したと報じた。』

AI彼女アプリからデータ流出、40万人以上に影響か
news.mynavi.jp/techplus/art...

AI彼女アプリからデータ流出、40万人以上に影響か

CyberNewsは10月8日(現地時間)、2つのAIコンパニオンアプリから個人情報が流出したと報じた。アプリはいずれも香港に拠点を置く「Imagime Interactive Limited」により開発されたもの。

news.mynavi.jp

25 30

ペンギン @penpenguin2023.bsky.social · 16h

『米マイクロソフトは、対話型生成ＡＩ（人工知能）「チャットＧＰＴ」を手掛けるオープンＡＩとの秘密協定によって生成ＡＩの価格を違法につり上げたと主張するＡＩユーザーからの新たな訴訟に直面している。』

マイクロソフトを提訴、ＡＩユーザーがオープンＡＩとの契約巡り
jp.reuters.com/economy/indu...

マイクロソフトを提訴、ＡＩユーザーがオープンＡＩとの契約巡り

米マイクロソフトは、対話型生成ＡＩ（人工知能）「チャットＧＰＴ」を手掛けるオープンＡＩとの秘密協定によって生成ＡＩの価格を違法につり上げたと主張するＡＩユーザーからの新たな訴訟に直面している。

jp.reuters.com

27 34

ペンギン @penpenguin2023.bsky.social · 1d

『テストされた全てのモデルで欺瞞や権力志向といった「不整合な行動」が確認された。これは、AIの安全性を巡る議論に新たな段階をもたらす重要な動きである。』

AnthropicのAI監査ツールPetri、主要14モデル全てで「不整合な行動」を検出
xenospectrum.com/anthropic-pe...

AnthropicのAI監査ツールPetri、主要14モデル全てで「不整合な行動」を検出 | XenoSpectrum

AI開発企業Anthropicは、大規模言語モデル（LLM）の潜在的なリスクを自動で監査するオープンソースツール「Petri」を公開した。GPT-5やGemini 2.5 Proを含む14の主要モデルをテストした結果、同社のClaude Sonnet

xenospectrum.com

4 14

ペンギン @penpenguin2023.bsky.social · 1d

『著作権にまつわる混乱はその後も続く。ハリウッドの主要スタジオを代表する業界団体である全米映画協会（Motion Picture Association、MPA）は10月6日（月）、声明を発表。』

Open AIの動画生成AIモデル「Sora 2」ローンチとその余波　著作権ポリシーをめぐる混乱まとめ
cgworld.jp/flashnews/01...

Open AIの動画生成AIモデル「Sora 2」ローンチとその余波　著作権ポリシーをめぐる混乱まとめ

月刊CGWORLDがお届けする、日本で唯一無二のCG＆映像に特化した情報サイトです。3DCG、VFX、撮影、編集などに関する国内外さまざまな話題をお届けします。

cgworld.jp

1 25 62

ペンギン @penpenguin2023.bsky.social · 1d

『OpenAIの還元策がどこまで現実的かは未知数だが、少なくとも日本が主導して“AI時代のIP保護モデル”を構築することが、文化産業を守る唯一の道となる。』

広がるSora2ショック…日本のアニメ産業を揺るがす「動画生成AI規制」の現実味
biz-journal.jp/company/post...

広がるSora2ショック…日本のアニメ産業を揺るがす「動画生成AI規制」の現実味

OpenAI「Sora2」登場で、著作権侵害リスクを懸念する声が世界的に噴出。日本では「利用禁止論」も浮上している。OpenAIは日本のアニメキャラ無断利用を制限し、著作権者への還元策を検討と発表。だが実現は容易でなく、日本のIPビジネス構造上、厳格な規制が避けられない可能性もある。

biz-journal.jp

12 28

ペンギン @penpenguin2023.bsky.social · 1d

『同社に対し、事前に同意を得る「オプトイン」の方式をとるよう要請していると明らかにした。』

平将明デジタル相、オープンAIに「事前同意」要請　動画生成の著作権で
www.nikkei.com/article/DGXZ...

平将明デジタル相、オープンAIに「オプトイン」要請　動画生成の著作権で - 日本経済新聞

www.nikkei.com

6 12

ペンギン @penpenguin2023.bsky.social · 1d

『カードン氏は、「一番驚いたのは感情の激しさでした。多くの回答者が、上司がメール作成にAIを使うことに憤慨していました」と述べました。』

AIでメールを書く上司は誠実さ・思いやり・自信に欠けると見なされてしまうことが判明
gigazine.net/news/2025101...

AIでメールを書く上司は誠実さ・思いやり・自信に欠けると見なされてしまうことが判明

ChatGPTのような生成AIが普及したことにより、メールの文面や議事録、社内メモなどの作成にAIを活用する労働者が増えています。しかし、主にコンピューターを使用している1000人以上のフルタイム労働者を対象にした研究では、日常的なメール作成にAIを使う管理職は誠実さや思いやり、自信に欠けると評価されてしまうことが判明しました。

gigazine.net

10 27

ペンギン @penpenguin2023.bsky.social · 1d

『「ChatGPTを個人的な相談相手にする」といった使い方も登場する中、米イリノイ州は、心理相談や心理療法における人工知能（AI）の使用を禁止する法律を制定した。』

いつでも気軽に相談できる“AIセラピスト”の危険性
news.yahoo.co.jp/articles/b42...

いつでも気軽に相談できる“AIセラピスト”の危険性（TechTargetジャパン） - Yahoo!ニュース

「ChatGPTを個人的な相談相手にする」といった使い方も登場する中、米イリノイ州は、心理相談や心理療法における人工知能（AI）の使用を禁止する法律を制定した。

news.yahoo.co.jp

26 46

ペンギン @penpenguin2023.bsky.social · 1d

🤔
『オンラインの出会いを求める人々に向けて、返答の作成からプロフィール最適化、あるいはいつ諦めて次に行くかの決断まで寄り添う形で支援してくれる新たなＡＩツールが登場しつつある。』

アングル：ＡＩに恋愛アドバイス求める人々、出会いからデートまで指南
jp.reuters.com/business/tec...

アングル：ＡＩに恋愛アドバイス求める人々、出会いからデートまで指南

マッチングアプリで相性が一致した女性のプロフィールを眺めていた米南部フロリダ州マイアミ出身のドミトリーさん（３５）は、どうやって会話を始めれば良いか分からなかったので、人工知能（ＡＩ）恋愛コーチ付きデート支援アプリ「Ｒｉｚｚ（リズ）」を活用することにした

jp.reuters.com

5 8

ペンギン @penpenguin2023.bsky.social · 1d

『もちろん、その“代償”は、あなたが好んで利用するブランドに自分の個人情報を差し出すことだ。』

あなたに「もっと買わせる」AIエージェントが普及、企業のガバナンスと受け手の守り方
forbesjapan.com/articles/det...

あなたに「もっと買わせる」AIエージェントが普及、企業のガバナンスと受け手の守り方 | Forbes JAPAN 公式サイト（フォーブスジャパン）

顧客エンゲージメント基盤を提供する米Braze（ブレイズ）が、年次イベント「Forge（フォージ）」を開催した。このイベントで同社は、行動データにもとづきメール・SMS・プッシュ通知の内容と送信タイミングを自動最適化する人工知能（AI）エー...

forbesjapan.com

4 14

ペンギン @penpenguin2023.bsky.social · 1d

『特に若年層を中心に、メンタルヘルスの相談相手としてAIに頼る傾向が強まっているのだ。しかし、スタンフォード大学の最新研究が、この現象に潜む深刻なリスクを浮き彫りにした。』

AIに「人生相談」、1,670万人が熱狂するAIセラピストの魅力と危険性
ampmedia.jp/2025/10/13/a...

AIに「人生相談」、1,670万人が熱狂するAIセラピストの魅力と危険性 | AMP[アンプ] - ビジネスインスピレーションメディア

ampmedia.jp

7 15

ペンギン @penpenguin2023.bsky.social · 1d

『しかし、私が予想していなかったのは、その逆の現象でした。つまり、本物の動画にわざとSoraの透かしを「追加」して、あたかもAIで作られたかのように見せかける人々が現れたのです。』

Soraの透かしは、もはや信じられない
www.lifehacker.jp/article/2510...

Soraの透かしは、もはや信じられない | ライフハッカー・ジャパン

AIによって生成される動画が、恐ろしいほどリアルになっています。さらに恐ろしいのは、そうした動画を作るツールが誰にでも手に入ってしまうことです。たとえば、OpenAIの「Sora」のようなアプリを使えば、有名人や友人、あるいは自分自身といった実在の人物を含む、あらゆるものの超リアルなショート動画を意のままに作成できてしまいます。

www.lifehacker.jp

65 82

ペンギン @penpenguin2023.bsky.social · 1d

『各国・地域の中央銀行当局者は既に貿易摩擦や公的債務の拡大を不安視しているが、来週には新たな懸念に直面することになる。市場急落のリスクだ。』

【焦点】AI株バブルに警戒感、IMF・世銀総会で市場リスク議題に
www.bloomberg.co.jp/news/article...

【焦点】AI株バブルに警戒感、IMF・世銀総会で市場リスク議題に

各国・地域の中央銀行当局者は既に貿易摩擦や公的債務の拡大を不安視しているが、来週には新たな懸念に直面することになる。市場急落のリスクだ。

www.bloomberg.co.jp

8 12

ペンギン @penpenguin2023.bsky.social · 1d

『アカウント更新を最適化するように設定された1つのツールが、誤って個人情報を間違ったシステムにプッシュしたり、意図しない金融取引をトリガーしたりする可能性がある。』

エージェント型AI：静かに忍び寄る新たな第三者リスク
forbesjapan.com/articles/det...

エージェント型AI：静かに忍び寄る新たな第三者リスク | Forbes JAPAN 公式サイト（フォーブスジャパン）

CyberArkの最高情報責任者（CIO）、オメル・グロスマン氏。これまでサードパーティリスクといえば、ベンダーの乱立、共有認証情報、あるいは忘れ去られた連携機能などを意味していた。しかし2025年、真のリスクは、サードパーティが環境内に持...

forbesjapan.com

1 9

ペンギン @penpenguin2023.bsky.social · 1d

『ニューヨーク・タイムズが「中国へのAIチップ販売の疑いで調査されている『Megaspeed』という企業の幹部とNVIDIAのジェンスン・フアンCEOが親しい関係にある」と報じました。』

「NVIDIA製AIチップを中国に横流ししている企業」の幹部とジェンスン・フアンCEOが親しい関係にあるとの報道
gigazine.net/news/2025101...

「NVIDIA製AIチップを中国に横流ししている企業」の幹部とジェンスン・フアンCEOが親しい関係にあるとの報道

アメリカ政府は高性能AIチップの中国への輸出を制限していますが、中国企業は他国の企業を経由することでNVIDIA製AIチップを入手できているのが現状です。そんな中、ニューヨーク・タイムズが「中国へのAIチップ販売の疑いで調査されている『Megaspeed』という企業の幹部とNVIDIAのジェンスン・フアンCEOが親しい関係にある」と報じました。

gigazine.net

3 8

ペンギン @penpenguin2023.bsky.social · 1d

『半導体だけでなく、電力・用地・水（冷却）の争奪戦も過熱する。AIデータセンター1棟当たりの電力需要は中規模都市1つ分。英国や米国ではすでに送電網の容量不足が深刻化している。』

この「AIバブル」もいつか必ず崩壊する、英中銀やJPモルガンCEOが警鐘を鳴らし始めた
jbpress.ismedia.jp/articles/-/9...

この「AIバブル」もいつか必ず崩壊する、英中銀やJPモルガンCEOが警鐘を鳴らし始めた | JBpress (ジェイビープレス)

議事録によると、多くのリスク・プレミアム（リスクに対する追加利回り）指標は一段と圧縮され、世界的なクレジット・スプレッドは歴史的な低水準に近づいている。株式市場の評価額は第2四半期(1/5)

jbpress.ismedia.jp

42 59

ペンギン @penpenguin2023.bsky.social · 1d

『セールスフォースを通じた情報漏洩が発覚。AIを使った“ボイスフィッシング”により、脆弱性がなくても人を介して情報が奪われるリスクが浮上。』

AIが“声”でだます時代へ…セールスフォース情報漏洩が突きつけたクラウド運用の盲点
biz-journal.jp/company/post...

AIが“声”でだます時代へ…セールスフォース情報漏洩が突きつけたクラウド運用の盲点

セールスフォースを通じた情報漏洩が発覚。AIを使った“ボイスフィッシング”により、脆弱性がなくても人を介して情報が奪われるリスクが浮上。生成AIが声を模倣し、社員をだます新たな詐欺手口が拡大。クラウドCRMの利便性の裏で、運用や人の判断が最大の脆弱点となっている。企業は多要素認証やゼロトラスト導入に加え、社員教育の再構築が急務。AI時代のセキュリティは「信頼をどう設計するか」が問われている。

biz-journal.jp

6 15

ペンギン @penpenguin2023.bsky.social · 3d

NewsPicksのYouTube動画。フル視聴は有料。
サム・アルトマンの才能は金集め…

【150兆円】OpenAIの「循環取引」が、ちょっと怖すぎる
www.youtube.com/watch?v=aREP...

【150兆円】OpenAIの「循環取引」が、ちょっと怖すぎる（サム・アルトマン／AI／バブル／NVIDIA／オラクル／AMD／GPU／孫正義／Sora／ChatGPT）

YouTube video by NewsPicks /ニューズピックス

www.youtube.com

6 19

ペンギン @penpenguin2023.bsky.social · 3d

🔒記事
『対話型生成AIは、ユーザーに対して迎合的な回答をする傾向があります。（中略）ユーザー側が心理的に不安定な状態にある場合、不安を増大させてしまうリスクを抱えているのです。』

「生成AI利用者の自殺や殺人事件」米国で報道相次ぐ　背景は?
mainichi.jp/articles/202...

「生成AI利用者の自殺や殺人事件」米国で報道相次ぐ　背景は? | 毎日新聞

米国で対話型生成人工知能（AI）の利用者が自殺や自傷行為をしたり、殺人事件を起こしたりしたとされる報道が相次いでいる。　この分野で最先端をいく国で何が起きているのか。また、後れを取る日本は、今後どのような開発や規制を目指すべきなのか。

mainichi.jp

20 33