Việc chạy mô hình hình học sâu (mạng lưới thần kinh sâu) trên các thiết bị thông minh khác nhau đã trở thành phương thức chủ đạo của Alo T; Tuy nhiên do yêu cầu triển khai của các mô hình học sâu rất cao nhưng tài nguyên máy tính của các thiết bị biên khá hạn chế, nên việc triển khai trực tiếp sẽ có những thách thức như lãng phí một lượng lớn tài nguyên máy tính, gây cản trở việc triển khai các mô hình học sâu triên các thiết bị biên với nguồn lực hạn chế.
Để giải quyết những vấn đề này, trung tâm Sáng tạo AI của Tập đoàn Midea đã khởi động dự án Aidget vào năm 2021. Aidget bao gồm các công cụ nén mô hình và công cụ tăng tốc suy luận để đạt được tối ưu hóa toàn bộ liên kết từ nén mô hình đến tăng tốc suy luận. Aidget phù hợp với nhiều hệ thống cạnh khác nhau như Linux, Rtos, Android và Ios, cung cấp khả năng tăng tốc cấp hướng dẫn cho các hệ thống biên khác nhau như Armv7, V8 và Dsp; Đối với các thiết bị đơn vị đa máy tính, Aidget cung cấp khả năng tính toán không đồng nhất hiệu suất cao; Và đối với các thiết bị bộ nhớ nhỏ, nó tối ưu hóa thiết kế quản lý bộ nhớ.
Quy trình làm việc chính của chuỗi công cụ Aidget là nén mô hình thông qua công cụ nén và hỗ trợ cắt tỉa, chắt lọc và lượng tử hóa công nghệ thuật toán chính thống tiên tiến. Kết hợp nhiều phương pháp nén để đạt được tỷ lệ nén cao và duy trì hiệu suất chính xác tốt nhất. Mô hình sau khi được nén sẽ được phân tích bằng công cụ chuyển đổi thuộc công cụ suy luận, sau đó tiến hành tối ưu hoá, bao gồm việc loại bỏ toán tử, thay thế toán tử, điều chỉnh bố cục và các hoạt động tối ưu hoá biểu đồ khác. Tải mô hình trong khi suy luận, sau đó chuyển đổi mô hình từ biểu đồ trừu tượng sang dạng mô tả của các toán tử cụ thể và kết nối tensor thông qua quá trình tiền xử lý, đồng thời thực hiện tối ưu hóa hoạt động như sử dụng lại bộ nhớ và lập lịch thực thi.
Hiện tại, Aidget đã liên tiếp đạt được xác minh sản xuất và sản xuất hàng loạt trên các thiết bị gia dụng thông minh như tủ lạnh, máy rửa chén và Robot dịch vụ gia đình, giúp giảm chi phí và tăng hiệu quả sử dụng của các thiết bị trên. Tập đoàn Midea hy vọng sẽ cung cấp các giải pháp AI cho trí tuệ nhân tạo thông qua việc phát triển dự án Aidget; Đồng thời, Trung tâm Ai của Midea Group sẽ tiếp tục thúc đẩy triển khai và hợp tác phát triển các thuật toán/mô hình liên quan đến công nghệ giọng nói, thị giác máy tính và Robot học tập.
Thông tin liên hệ: https://www.midea.com/vn
