AI
LLM推論の負荷試験ツールAIPerf、測定処理を複数プロセスに分離
LLM推論の負荷試験ツールAIPerfは、要求の送信と結果の処理を複数プロセスへ分ける構成になった。NVIDIAは、測定クライアント側が高い同時…
AI
AI
人型ロボットが未見の30家庭で3作業、事前学習で成功率を9％から56％へ
人の行動データで事前学習した人型ロボット向けモデルが、現地データや追加適応なしで未見の30家庭にまたがる3作業を実行した。Figure AIの比…
AI
生体分子AIモデル30超を平均約4倍に高速化、Claudeが4週間弱で推論を最適化
生体分子の構造予測やタンパク質設計に使う30超のAIモデルで、推論処理が平均約4倍に高速化した。Claudeは高負荷なGPU演算とモデル固有の無…
AI
Anthropic、生命科学向けAIの利用を事前審査と継続監視で管理
生命科学向けAIの安全管理が、要求ごとの遮断から利用パターンの監視へ移る。Anthropicの新制度は、研究組織を事前審査して利用範囲を広げる一…
AI
AIエージェントでGPU演算子24種をRustに移植、Python版の平均性能99.5％
GPUカーネルをPython系の実装からRustへ移すAIエージェント用スキルにより、TileGymの公開演算子24種が移植された。NVIDIA…
AI
Blenderの3Dシーンをロボット実験向けに整えるAIエージェント工程
Blenderで作った3Dシーンに、ロボットシミュレーションで使う意味ラベルや物理属性を加える作業をAIエージェントが分担する。NVIDIAは、…
AI
JetsonのAIエージェント推論、参照実装の6.4倍速で1007ターンを完了
エッジ端末で会話履歴を引き継ぐAIエージェントの推論時間が短縮された。NVIDIAのTensorRT Edge-LLMは、Jetson AGX …
AI
顧客データを学習・推論に使わないCRM推論モデル、Salesforceが自社基盤で稼働
CRM推論モデルKoaは、顧客データを学習にも推論にも使わず、Salesforceのシステム内で稼働する。合成CRMデータによる追加学習と自社管…