Sockpuppeting: 1-Zeilen-Code hebelt KI-Schutzsysteme aus

Sockpuppeting: Mit nur einer Codezeile lassen sich KI-Schutzmechanismen umgehen. Selbst GPT, Claude & Gemini sind anfällig dafür.

TARNKAPPE.INFO

Simon Willison (@simonw)

ChatGPT 음성 모드에 모델 지식 기준 시점을 물었을 때 2024년 4월로 답한다는 내용으로, 해당 기능이 GPT-4o 시기의 모델을 사용하고 있음을 보여줍니다. 음성 인터페이스의 실제 모델 세대와 지식 범위를 추정할 수 있는 흥미로운 관찰입니다.

https://x.com/simonw/status/2042630738542203057

#chatgpt #voiceai #gpt4o #openai #llm

Simon Willison (@simonw) on X

If you ask ChatGPT voice mode for its knowledge cutoff date it tells you April 2024 - it's a GPT-4o era model

X (formerly Twitter)

Simon Willison (@simonw)

OpenAI의 음성 모드가 많은 사람이 예상하는 것과 달리 최신이 아닌 더 오래되고 약한 모델로 동작한다는 점을 지적한 트윗입니다. 대화형 AI가 가장 똑똑한 모델일 것이라는 인식과 달리, 실제로는 GPT-4o보다 이전 세대 모델에 기반할 수 있음을 시사합니다.

https://x.com/simonw/status/2042611602726539283

#openai #chatgpt #voiceai #gpt4o #llm

Simon Willison (@simonw) on X

I think it's non-obvious to many people that the OpenAI voice mode runs on a much older, much weaker model - it feels like the AI that you can talk to should be the smartest AI but it really isn't

X (formerly Twitter)

OpenAI、アジア初の海外オフィス「OpenAI Japan」を開設し初の日本語に特化したGPT-4カスタムモデルを公開

OpenAIは海外進出を強めており、アジア展開の足がかりとして、日本に新たな子会社「OpenAI Japan」合同会社を設立し、東京にオフィスを開設したことを発表した。このOpenAI Japanの代表には、元アマゾン ウェブ サービス […]

https://xenospectrum.com/openai-opens-its-first-overseas-office-in-asia-openai-japan-and-unveils-its-first-japanese-language-specific-gpt-4-custom-model/

OpenAIのGPT-4はセキュリティ勧告を読ませるだけで実際の脆弱性を自律的に攻撃することが出来た

GPT-4は、OpenAIによって作られた2024年4月初旬時点では最新のマルチモーダル大規模言語モデル(LLM)だ。この基盤モデル(Foundation Model)は、ChatGPTの有料サブスクリプションプラン「ChatGPT […]

https://xenospectrum.com/openais-gpt-4-could-autonomously-attack-the-actual-vulnerability-by-simply-having-the-security-advisory-read/

中国のAIスタートアップ「SenseTime」がGPT-4 Turbo超えのAIモデル「SenseNova 5.0」を発表

中国のAIスタートアップ「SenseTime」社は、マルチモーダル大規模言語モデル(LLM)の「SenseNova 5.0」を発表した。これまであまり名前を聞いたことのないこの企業は、今回ある主張によって一挙に注目を集めることとなった。それは、この新たなAIモデルが、ほぼ全てのベンチマークテストにおいて、OpenAIのマルチモーダル大規模言語モデルであるGPT-4 […]

https://xenospectrum.com/chinese-ai-startup-sensetime-announces-sensenova-5-0-an-ai-model-that-exceeds-gpt-4-turbo/

OpenAI、これまでより60%低価格で高性能なAIモデル「GPT-4o mini」を発表

OpenAIは、低コストでパフォーマンスに優れる新しいマルチモーダルAIモデル「GPT-4o mini」を発表した。GPT-4o miniは、従来のGPT-3.5 Turboに比べて60%低コストでありながら、より高いパフォーマンスを発揮するという。この革新的なモデルは、AIの民主化と幅広い応用を促進することが期待されている。 安価で高性能なGPT-4o miniにより企業でのAI採用を促進させる狙い GPT-4o […]

https://xenospectrum.com/openai-announces-gpt-4o-mini/

AIは宇宙について何を学べるのか?

人工知能と機械学習は、データ分析、サイバーセキュリティ、医薬品開発、作曲、芸術的レンダリングなど、幅広い用途でユビキタスになっている。近年、大規模言語モデル(LLM)も登場し、人間との対話と文章作成がアプリケーションの長いリストに加わった。ChatGPTは、2年も前に導入されて以来、大きな影響を及ぼしているLLMである。このアプリケーションは、AIの潜在的な用途や意味合いについてかなりの議論(と論争)を巻き起こした。 機械学習は、惑星通過の兆候を探したり、大気の干渉を補正したり、ノイズの中のパターンを見つけたりするために、大量のデータを選別するために使用されている。国際的な天体物理学者チームによれば、これはAIが天文学にもたらす可能性のほんの始まりに過ぎないという。最近の研究で、研究チームは天体の観測結果を用いて、GPT(Generative […]

https://xenospectrum.com/what-can-ai-learn-about-the-universe/

OpenAIの新たなAIモデル「GPT-4o」は、人間のようにリアルタイムにテキスト、音声、写真を分析して返答でき、Siriを原始的に見せる

OpenAIは本日オンラインイベントを開催し、オーディオ、ビジョン、テキストを“リアルタイム”で推論できる新たな基幹モデルである「GPT-4o」(oはOmniを表す)を発表した。ネーミングからすると、OpenAIの中でこれはGPT-4の漸進的なバージョンアップという位置づけかも知れないが、その進化はパフォーマンスと効率性において新たな基準を打ち立てるものでもある。 https://www.youtube.com/watch?v=DQacCB9tDaw テキスト、ビジョン、オーディオの入出力を同じニューラルネットワークで処理する初めてのモデル これまでのトップレベルのモデルだったGPT-4 […]

https://xenospectrum.com/openais-new-ai-model-gpt-4o-can-analyze-and-respond-to-text-voice-and-photos-in-real-time-like-a-human-making-siri-look-primitive/

GPT-4o도 Gemini도 뚫렸다, AI 추론 모델의 자율 공격 실험

추론 특화 AI 모델이 GPT-4o·Gemini·Grok 3의 안전 필터를 자율적으로 우회한 실험 연구. '정렬 회귀' 개념을 중심으로 AI 안전의 새로운 위협 지형을 소개합니다.

https://aisparkup.com/posts/10199