Articles
Product
Career
『巨大なのに、動かすのは安い』——DeepSeekやKimiに代表されるMoE(Mixture of Experts)モデルは、数千億〜数兆の総パラメータを持ちながら、各トークンはごく一部のエキスパートだけを通るため、実際に動くパラメータは総容量のほんの一部に抑えられます。本スライドでは、この仕組みの基本から、ルーターの負荷分散が抱える課題、DeepSeekが導入した補助損失なしのロードバランシングとその発展形までを、図解で解説します。
已读
接下来阅读 ↓当发布新专栏时，我们将通过邮件告知您。
Masahiro Taima
Founder | CEO | Ph.D.
东京大学大学院工学系研究科城市工学专业博士课程修毕（Ph.D.），后任职于庆应义塾大学特任助教、京都大学特任助教，以及伦敦大学、北京大学客座研究员，从事建筑土木规划及分析工作。
Harsh Chandra
AI Research Scientist | Ph.D.
印度理工学院毕业，东京大学大学院机械工学专业博士课程修毕(Ph.D.)。曾在加州理工学院(Caltech)进行研究，在NEC担任研究实习生，后在Fast Accounting、AIRUCA从事边缘AI、多语言VLM/OCR、基础视觉模型等AI/ML开发工作。
Sozoro
Building Review Practice Lead
在指定确认检查机构从事建筑确认审查工作，拥有5000件以上的审查经验。社交媒体总粉丝约4万人。运营建筑法规专业媒体「建筑基准法虎之卷。」。撰写《住宅设计的建筑法规》等书籍，从事建筑基准相关法令集的编辑、建筑法规教材的监修。在mign中，利用建筑法规专业知识和审查经验参与AI代理的开发。
Jikai Li
AI Research Scientist | Ph.D.
新潟大学大学院电气信息工学专业博士后期课程修毕(Ph.D.)。曾在NTT研究所担任研究实习生等，后在Toggle Holdings担任数据科学家。专门研究深度学习、图像处理、GIS。