Articles
Product
Career
『巨大なのに、動かすのは安い』——DeepSeekやKimiに代表されるMoE(Mixture of Experts)モデルは、数千億〜数兆の総パラメータを持ちながら、各トークンはごく一部のエキスパートだけを通るため、実際に動くパラメータは総容量のほんの一部に抑えられます。本スライドでは、この仕組みの基本から、ルーターの負荷分散が抱える課題、DeepSeekが導入した補助損失なしのロードバランシングとその発展形までを、図解で解説します。
Đã đọc
Đọc tiếp ↓Chúng tôi sẽ thông báo cho bạn qua email khi có bài viết mới được xuất bản.
Masahiro Taima
Founder | CEO | Ph.D.
Tốt nghiệp Tiến sĩ từ Chương trình Tiến sĩ, Khoa Kỹ thuật Thành phố, Đại học Tokyo, và sau đó phục vụ là Giảng viên Đặc biệt tại Đại học Keio, Giảng viên Đặc biệt tại Đại học Kyoto, và Nghiên cứu sinh Khách mời tại Đại học London và Đại học Bắc Kinh. Từng tham gia vào lập kế hoạch và phân tích kiến trúc và kỹ thuật xây dựng.
Harsh Chandra
AI Research Scientist | Ph.D.
Tốt nghiệp Viện Công nghệ Ấn Độ, sau đó hoàn thành tiến sĩ từ Đại học Tokyo (Ph.D.) chuyên ngành Kỹ thuật cơ khí. Sau khi thực hiện nghiên cứu tại Viện Công nghệ California (Caltech) và thực tập nghiên cứu tại NEC, đã tham gia phát triển AI/ML bao gồm Edge AI, VLM/OCR đa ngôn ngữ và mô hình thị giác nền tảng tại Fast Accounting và AIRUCA.
Sozoro
Building Review Practice Lead
Có kinh nghiệm xem xét phê duyệt xây dựng tại cơ quan kiểm tra xác nhận được chỉ định, đã xem xét hơn 5.000 dự án. Khoảng 40.000 người theo dõi trên các nền tảng truyền thông xã hội. Điều hành phương tiện truyền thông chuyên về luật pháp xây dựng "Toranoaki về Tiêu chuẩn Xây dựng". Đã viết các sách bao gồm "Luật pháp Xây dựng cho Thiết kế Nhà ở", chỉnh sửa Bộ sưu tập Luật pháp liên quan đến Tiêu chuẩn Xây dựng và giám sát tài liệu giáo dục luật pháp xây dựng. Tại mign, tham gia phát triển AI agent, tận dụng kiến thức chuyên môn về luật pháp xây dựng và kinh nghiệm xem xét.
Jikai Li
AI Research Scientist | Ph.D.
Hoàn thành chương trình tiến sĩ khoá sau tại chuyên ngành Kỹ thuật Điện tử và Thông tin, Đại học Niigata (Ph.D.). Sau thực tập nghiên cứu tại Phòng thí nghiệm NTT, đã làm việc tại Toggle Holdings với tư cách là nhà khoa học dữ liệu. Chuyên môn trong học sâu, xử lý hình ảnh và GIS.