Articles
Product
Career
『巨大なのに、動かすのは安い』——DeepSeekやKimiに代表されるMoE(Mixture of Experts)モデルは、数千億〜数兆の総パラメータを持ちながら、各トークンはごく一部のエキスパートだけを通るため、実際に動くパラメータは総容量のほんの一部に抑えられます。本スライドでは、この仕組みの基本から、ルーターの負荷分散が抱える課題、DeepSeekが導入した補助損失なしのロードバランシングとその発展形までを、図解で解説します。
Nous vous enverrons un e-mail lorsqu'un nouvel article sera publié.
Masahiro Taima
Founder | CEO | Ph.D.
Doctorat (Ph.D.) en génie urbain à l'Université de Tokyo, suivi de postes de maître de conférences spécialisé à l'Université Keio, de chercheur spécialisé à l'Université de Kyoto, et de chercheur invité aux universités de Londres et de Pékin. Spécialisé en planification et analyse architecturale et civile.
Harsh Chandra
AI Research Scientist | Ph.D.
Graduate of Indian Institute of Technology. Completed Ph.D. in Mechanical Engineering at the University of Tokyo Graduate School. Following research at California Institute of Technology (Caltech) and research internship at NEC, engaged in AI/ML development including edge AI, multilingual VLM/OCR, and foundational vision models at Fast Accounting and AIRUCA.
Sozoro
Building Review Practice Lead
A travaillé pour un organisme désigné de vérification et d'inspection en matière de construction, avec plus de 5 000 examens de permis de construire. Plus de 40 000 abonnés sur les réseaux sociaux. Exploite un média spécialisé en droit de la construction intitulé « Kenchiku Kijun-hou Tora no Maki ». A écrit plusieurs ouvrages dont « Droit de la construction pour la conception résidentielle » et a supervisé l'édition des recueils de lois et règlements en matière de construction. Chez mign, il contribue au développement d'agents IA en mettant à profit son expertise en droit de la construction et son expérience d'examen.
Jikai Li
AI Research Scientist | Ph.D.
Completed Ph.D. in the Department of Electrical and Information Engineering, Niigata University Graduate School. Following research internship at NTT Research Institute, engaged as data scientist at Toggle Holdings. Specializes in deep learning, image processing, and GIS.