SAN FRANCISCO, MỸ – Media OutReach Newswire – TokenPulse, công ty cơ sở hạ tầng suy luận (inference) sử dụng trí tuệ nhân tạo (AI) thế hệ mới có trụ sở tại San Francisco và Singapore, vừa khai trương Trung tâm Vận hành khu vực châu Á – Thái Bình Dương tại Singapore. Công ty đã đánh dấu sự kiện này bằng một buổi lễ khai trương với sự tham dự của các nhà lãnh đạo trong ngành cùng các đối tác trong hệ sinh thái. Tại đây, các bên đã cùng thảo luận về những cơ hội mới nổi trong lĩnh vực điện toán AI và cơ sở hạ tầng trên toàn cầu.
Các công ty đưa ứng dụng AI vào sản xuất đang phải đối mặt với chi phí suy luận ngày càng tăng, áp lực giữ thời gian phản hồi thấp và thường phải xây dựng lại nền tảng của mình khi khối lượng công việc tăng lên. Nhu cầu về suy luận cũng đang tăng lên: thị trường cơ sở hạ tầng AI toàn cầu dự kiến sẽ tăng từ 982 tỷ USD vào năm 2025 lên 1.980 tỷ USD vào năm 2027, tăng gấp đôi quy mô trong vòng hai năm.
TokenPulse cung cấp khả năng tính toán AI hiệu suất cao, tiết kiệm chi phí trên quy mô toàn cầu. Bằng cách kết hợp các nguồn lực trung tâm dữ liệu, cơ sở hạ tầng GPU, công cụ suy luận được tối ưu hóa và khả năng phục vụ được phối hợp trên toàn cầu, công ty phục vụ các công ty mô hình nền tảng, nền tảng AI, doanh nghiệp và các ứng dụng gốc AI.
Singapore là Trung tâm Chiến lược cho Mạng lưới cơ sở hạ tầng trên toàn cầu
TokenPulse đang xây dựng dấu ấn cơ sở hạ tầng của mình trên khắp Bắc Mỹ, châu Á – Thái Bình Dương và châu Âu, với Singapore đóng vai trò là trung tâm chiến lược cho khu vực châu Á – Thái Bình Dương. Chiến lược khu vực của công ty được thiết kế để kết nối hệ sinh thái công nghệ AI, khách hàng và vốn của Bắc Mỹ với các nguồn lực trung tâm dữ liệu và năng lượng đang mở rộng của Đông Nam Á.
Từ Singapore, TokenPulse có vị trí thuận lợi để hợp tác với các đối tác trên khắp Malaysia, Indonesia, Thái Lan và khu vực rộng lớn hơn. Trung tâm này sẽ hỗ trợ các hoạt động khu vực, quan hệ đối tác cơ sở hạ tầng và điều phối trên toàn mạng lưới suy luận toàn cầu của công ty, giúp đưa năng lực tính toán đến gần hơn với khách hàng và khối lượng công việc AI.
TokenPulse đang theo đuổi cách tiếp cận dài hạn để xây dựng một mạng lưới cơ sở hạ tầng AI tích hợp, kết hợp các trung tâm dữ liệu, năng lượng và tài nguyên tính toán để hỗ trợ nhu cầu suy luận AI ngày càng tăng trên các thị trường toàn cầu. Công ty đang thúc đẩy nhiều dự án trung tâm dữ liệu với các đối tác cơ sở hạ tầng trên các thị trường trọng điểm, định vị mình cho sự tăng trưởng năng lực bền vững. Lộ trình cơ sở hạ tầng của công ty bao gồm việc triển khai cơ sở hạ tầng AI NVIDIA thế hệ mới nhất, trong khi trọng tâm kỹ thuật vẫn là cải thiện hiệu quả chuyển đổi tài nguyên tính toán thành token và đầu ra AI hữu ích.
Ông Steven Zhou, Giám đốc điều hành (CEO) của TokenPulse cho biết: “AI đang trải qua một sự thay đổi cơ bản: nhu cầu tính toán đang chuyển từ đào tạo sang suy luận. Đối với các doanh nghiệp, suy luận không còn là một chi phí ẩn nằm ở hậu trường nữa, mà đang trở thành một yếu tố cạnh tranh cốt lõi trong việc xác định liệu các sản phẩm AI có thể tiếp cận thị trường thành công hay không. Các nhà phát triển ở khu vực châu Á -Thái Bình Dương rất thẳng thắn về chi phí và hiệu năng. Bằng cách đặt Singapore làm trụ sở chính kiêm trung tâm điều hành khu vực châu Á – Thái Bình Dương, chúng tôi đang đưa năng lực tính toán và đội ngũ của mình đến gần họ nhất để mang lại hiệu năng tốt hơn với chi phí thấp hơn”.
Các tùy chọn tiêu thụ và triển khai linh hoạt
TokenPulse cung cấp 3 mô hình tiêu thụ trên một nền tảng công nghệ thống nhất, cho phép khách hàng bắt đầu với khối lượng công việc nhỏ hơn và mở rộng năng lực tính toán khi ứng dụng của họ phát triển.
- Không máy chủ – Thanh toán theo Token: Cung cấp quyền truy cập Giao diện lập trình ứng dụng (Application Programming Interface – API) thống nhất để triển khai nhanh chóng, đánh giá mô hình và khối lượng công việc biến đổi. Điều này cho phép các nhà phát triển và các ứng dụng AI gốc bắt đầu mà không cần cam kết dung lượng GPU chuyên dụng ngay từ đầu.
- Theo yêu cầu – Thanh toán theo giờ GPU: Cung cấp các điểm cuối chuyên dụng và hiệu năng có thể dự đoán được cho khách hàng có yêu cầu tính toán linh hoạt, hỗ trợ tối ưu hóa khối lượng công việc khi mức sử dụng tăng lên.
- Dành riêng – Dung lượng theo hợp đồng: Cung cấp dung lượng tính toán chuyên dụng, theo hợp đồng cho khối lượng công việc liên tục và các yêu cầu cơ sở hạ tầng tùy chỉnh hơn.
TokenPulse cung cấp 3 tùy chọn triển khai để đáp ứng các yêu cầu khác nhau về cơ sở hạ tầng, bảo mật và vận hành:
- TokenPulse Cloud. Cơ sở hạ tầng GPU được quản lý giúp đơn giản hóa quy trình đưa sản phẩm vào sản xuất.
- Virtual Privated Cloud – VPC (Đám mây riêng ảo). Môi trường do TokenPulse lưu trữ với ranh giới mạng chuyên dụng và khả năng cách ly khối lượng công việc.
- Bring Your Own Cloud – BYOC (Mang theo đám mây của riêng bạn). Công cụ suy luận của TokenPulse có thể được triển khai trên đám mây hoặc VPC của khách hàng, hoặc trên GPU của chính khách hàng.
Cách tiếp cận thương mại của công ty được xây dựng dựa trên một nguyên tắc đơn giản: “Bắt đầu nhỏ. Mở rộng quy mô mà không cần xây dựng lại nền tảng”. Khách hàng có thể bắt đầu bằng cách xác thực ứng dụng của họ thông qua truy cập dựa trên API, sau đó chuyển sang các dịch vụ dựa trên GPU hoặc dung lượng dự trữ khi nhu cầu tăng lên. Điều này cho phép các doanh nghiệp mở rộng khối lượng công việc AI của họ mà không cần phải chuyển đổi nhà cung cấp hoặc xây dựng lại nền tảng khi nhu cầu về cơ sở hạ tầng thay đổi.
Tối ưu hóa suy luận về hiệu suất và chi phí
Lợi thế cạnh tranh của TokenPulse là sự kết hợp giữa cơ sở hạ tầng trung tâm dữ liệu tiêu chuẩn cao và tối ưu hóa suy luận chuyên sâu được điều chỉnh cho các trường hợp sử dụng cụ thể trong ngành. Bằng cách tối ưu hóa các mô hình trọng lượng mở cho khối lượng công việc theo ngành dọc, TokenPulse cải thiện hiệu quả tính toán và thông lượng phục vụ để khách hàng có thể xử lý nhiều token hơn với chi phí thấp hơn.
Các khả năng công nghệ chính bao gồm::
- Hiệu suất bộ nhớ đệm (cache) cao hơn: TokenPulse sử dụng HiCache cùng kiến trúc bộ nhớ đệm khóa-giá trị (key-value: KV) đa tầng để giảm thiểu các tính toán lặp lại. Tỷ lệ truy cập thành công vào bộ nhớ đệm (cache hit rate) ở cấp độ cụm (cluster) có thể đạt tới 95%.:
- Thời gian phản hồi nhanh hơn: Nhờ tính năng song song hóa ngữ cảnh (context parallelism), TokenPulse đã giảm 50% chỉ số Time to first token: TTFT (thời gian tạo token đầu tiên) ở phân vị thứ 90 (P90) và giảm 75% chỉ số TTFT ở phân vị thứ 99 (P99) so với cùng khối lượng công việc khi không sử dụng tính năng này.
- Định tuyến thông minh toàn cầu: Một kiến trúc định tuyến thống nhất sẽ điều phối các yêu cầu đến các khu vực phục vụ dựa trên nhiều yếu tố như yêu cầu của khách hàng, mô hình AI, khu vực địa lý và khung thời gian. Các cơ chế như truy cập tại điểm biên gần nhất (nearest-edge access), tái sử dụng ngữ cảnh phiên làm việc (session-context reuse) và thiết lập các đường truyền mạng dự phòng được thiết kế nhằm đảm bảo độ trễ thấp, tính sẵn sàng cao và tối ưu hóa hiệu suất sử dụng tài nguyên tính toán.
Tổng hòa lại, các năng lực này được thiết kế để giúp các doanh nghiệp AI cải thiện hiệu quả kinh tế trong quá trình suy luận, đồng thời duy trì khả năng phản hồi và độ tin cậy cần thiết cho các khối lượng công việc thực tế (production workloads). Mức độ cải thiện hiệu suất thực tế có thể thay đổi tùy thuộc vào từng khối lượng công việc và điều kiện vận hành cụ thể.
Đội ngũ lãnh đạo với bề dày kinh nghiệm về hạ tầng
Đội ngũ lãnh đạo và kỹ thuật của TokenPulse sở hữu kinh nghiệm chuyên sâu trong các lĩnh vực hạ tầng AI và học máy, điện toán đám mây, mạng lưới, trung tâm dữ liệu và vận hành kinh doanh toàn cầu, với nền tảng từ các tập đoàn lớn như Microsoft, Google và Equinix.
Ông Steven Zhou, CEO của TokenPulse là một doanh nhân khởi nghiệp dày dạn kinh nghiệm với hơn 20 năm phát triển quy mô doanh nghiệp tại Mỹ và châu Á. Ông Thomas Pang, Chủ tịch của TokenPulse mang đến hơn 30 năm kinh nghiệm trong các lĩnh vực chính phủ, đầu tư, hạ tầng và quản trị doanh nghiệp. Ông đã dành hơn hai thập kỷ làm việc tại Keppel, trong đó giữ vai trò CEO của bộ phận Trung tâm Dữ liệu & Mạng lưới (Data Centres & Networks Division) từ năm 2014 đến 2024, chịu trách nhiệm quản lý các hoạt động về trung tâm dữ liệu và kết nối kỹ thuật số của tập đoàn trên toàn cầu.
Ông Thomas Pang chia sẻ: “Singapore là lựa chọn tự nhiên để chúng tôi đặt trung tâm vận hành tại khu vực châu Á – Thái Bình Dương, nhờ vào hệ sinh thái trung tâm dữ liệu hoàn thiện, hạ tầng mạng lưới mạnh mẽ và nguồn nhân lực tài năng dồi dào. Nền tảng của chúng tôi bắt nguồn từ kinh nghiệm hàng thập kỷ trong các lĩnh vực trung tâm dữ liệu, mạng và điện toán đám mây. Tận dụng bề dày kinh nghiệm trong việc xây dựng và vận hành cơ sở hạ tầng quy mô lớn, chúng tôi sẽ tiếp tục đầu tư vào năng lực tính toán cùng hệ sinh thái hỗ trợ, nhằm mang lại hiệu suất tối ưu với chi phí thấp nhất trên mỗi token”.
Hashtag: #TokenPulse
Thông tin về TokenPulse
TokenPulse là công ty cung cấp cơ sở hạ tầng suy luận (inference) AI thế hệ mới, có trụ sở chính tại San Francisco và Singapore. Công ty kết hợp cơ sở hạ tầng GPU tiên tiến nhất, công cụ suy luận được tối ưu hóa cùng năng lực hạ tầng AI toàn cầu để cung cấp giải pháp tính toán hiệu suất cao, tiết kiệm chi phí cho các đơn vị phát triển mô hình nền tảng, các nền tảng AI, doanh nghiệp và những ứng dụng thuần AI trên toàn thế giới.
Với các mô hình tiêu thụ linh hoạt bao gồm Serverless (không máy chủ), On-Demand (theo nhu cầu) và Reserved (đặt trước), TokenPulse cho phép khách hàng bắt đầu với phương thức suy luận qua API, sau đó mở rộng sang năng lực GPU chuyên dụng khi khối lượng công việc tăng lên mà không cần phải thay đổi nền tảng kỹ thuật.
Để biết thêm thông tin, hãy truy cập: www.tokenpulse.com
Nguồn phát hành hoàn toàn chịu trách nhiệm về nội dung của thông báo này.
Recent Comments