- Mô hình này là một phần trong APK của ứng dụng
- Mô hình này có sẵn ngay lập tức, ngay cả khi thiết bị Android không có kết nối mạng
- Không cần dự án Firebase
- Lưu trữ mô hình bằng cách tải mô hình đó lên Firebase Machine Learning
- Giảm kích thước APK
- Mô hình được tải xuống theo yêu cầu
- Đẩy các bản cập nhật mô hình mà không cần xuất bản lại ứng dụng
- Dễ dàng tiến hành thử nghiệm A/B bằng Cấu hình từ xa Firebase
- Cần có một dự án Firebase
Dùng thử
- Hãy dùng thử ứng dụng mẫu để xem ví dụ về cách sử dụng API này.
Trước khi bắt đầu
1. Trong tệp build.gradle cấp dự án, hãy nhớ thêm kho lưu trữ Maven của Google vào cả hai mục buildscript và allprojects. 2. Thêm các phần phụ thuộc cho thư viện Android của Bộ công cụ học máy vào tệp gradle cấp ứng dụng của mô-đun, thường là app/build.gradle: Để gói một mô hình với ứng dụng của bạn: dependencies { // ... // Image labeling feature with bundled automl model implementation 'com.google.mlkit:image-labeling-automl:16.2.1' } Để tải được mô hình xuống từ Firebase theo cách linh động, hãy thêm phần phụ thuộc linkFirebase: dependencies { // ... // Image labeling feature with automl model downloaded // from firebase implementation 'com.google.mlkit:image-labeling-automl:16.2.1' implementation 'com.google.mlkit:linkfirebase:16.0.1' } 3. Nếu muốn tải một mô hình xuống, hãy nhớ thêm Firebase vào dự án Android (nếu bạn chưa thực hiện). Bạn không bắt buộc phải làm việc này khi gói mô hình.1. Tải mô hình
Định cấu hình nguồn mô hình cục bộ
Cách gói mô hình với ứng dụng của bạn: 1. Trích xuất mô hình và siêu dữ liệu của mô hình đó từ tệp lưu trữ zip mà bạn đã tải xuống từ bảng điều khiển của Firebase. Bạn nên sử dụng các tệp như khi tải xuống mà không chỉnh sửa (kể cả tên tệp). 2. Đưa mô hình và các tệp siêu dữ liệu của mô hình đó vào gói ứng dụng: a. Nếu không có thư mục thành phần trong dự án, hãy tạo một thư mục bằng cách nhấp chuột phải vào thư mục app/, sau đó nhấp vào New > Folder > Assets Folder (Mới > Thư mục > Thư mục thành phần). b. Tạo một thư mục con trong thư mục thành phần để chứa các tệp mô hình. c. Sao chép các tệp model.tflite, dict.txt và manifest.json vào thư mục con (cả 3 tệp phải nằm trong cùng một thư mục). 3. Thêm nội dung sau vào tệp build.gradle của ứng dụng để đảm bảo Gradle không nén tệp mô hình khi tạo ứng dụng: android { // ... aaptOptions { noCompress "tflite" } } Tệp mô hình sẽ được đưa vào gói ứng dụng và có sẵn cho Bộ công cụ học máy dưới dạng một thành phần thô. Lưu ý: kể từ phiên bản 4.1 của trình bổ trợ Android cho Gradle, .tflite sẽ được thêm vào danh sách noCompress theo mặc định và thao tác trên sẽ không cần thiết nữa. 4. Tạo đối tượng LocalModel, chỉ định đường dẫn đến tệp kê khai mô hình:Định cấu hình nguồn mô hình do Firebase lưu trữ
Để sử dụng mô hình được lưu trữ từ xa, hãy tạo một đối tượng RemoteModel, chỉ định tên mà bạn đã gán cho mô hình khi xuất bản:
Sau đó, hãy bắt đầu tác vụ tải mô hình xuống, chỉ định các điều kiện mà bạn muốn cho phép tải xuống. Nếu mô hình không có trên thiết bị hoặc nếu có phiên bản mới hơn của mô hình, thì thao tác này sẽ tải mô hình xuống không đồng bộ từ Firebase:
Nhiều ứng dụng bắt đầu tác vụ tải xuống trong mã khởi tạo, nhưng bạn có thể thực hiện việc này bất cứ lúc nào trước khi cần sử dụng mô hình.
Tạo một trình gắn nhãn hình ảnh từ mô hình của bạn
Sau khi bạn định cấu hình các nguồn mô hình, hãy tạo một đối tượng ImageLabeler từ một trong các nguồn đó.
Nếu bạn chỉ có một mô hình được gói cục bộ, hãy tạo một trình gắn nhãn từ đối tượng AutoMLImageLabelerLocalModel và định cấu hình ngưỡng điểm tin cậy mà bạn muốn yêu cầu (xem phần Đánh giá mô hình):
Nếu có một mô hình được lưu trữ từ xa, bạn sẽ phải kiểm tra để đảm bảo mô hình đó đã được tải xuống trước khi chạy. Bạn có thể kiểm tra trạng thái của tác vụ tải mô hình xuống bằng phương thức isModelDownloaded() của trình quản lý mô hình.
Mặc dù bạn chỉ phải xác nhận điều này trước khi chạy trình gắn nhãn, nhưng nếu có cả mô hình được lưu trữ từ xa và mô hình được gói cục bộ, thì bạn nên thực hiện bước kiểm tra này khi khởi tạo trình gắn nhãn hình ảnh: tạo trình gắn nhãn từ mô hình từ xa nếu mô hình đó đã được tải xuống và từ mô hình cục bộ nếu chưa.
Nếu chỉ có một mô hình được lưu trữ từ xa, bạn nên tắt chức năng liên quan đến mô hình (ví dụ: làm mờ hoặc ẩn một phần giao diện người dùng) cho đến khi xác nhận rằng mô hình đã được tải xuống. Bạn có thể làm như vậy bằng cách đính kèm một trình nghe vào phương thức download() của trình quản lý mô hình:
2. Chuẩn bị hình ảnh đầu vào
Sau đó, đối với mỗi hình ảnh bạn muốn gắn nhãn, hãy tạo một đối tượng InputImage từ hình ảnh đó. Trình gắn nhãn hình ảnh chạy nhanh nhất khi bạn sử dụng Bitmap hoặc, nếu bạn sử dụng camera2 API, thì là media.Image YUV_420_888. Đây là những lựa chọn được đề xuất khi có thể.
Bạn có thể tạo một đối tượng InputImage từ nhiều nguồn, mỗi nguồn được giải thích bên dưới.
Sử dụng media.Image
Để tạo một đối tượng InputImage từ một đối tượng media.Image, chẳng hạn như khi bạn chụp ảnh bằng camera của thiết bị, hãy truyền đối tượng media.Image và độ xoay của hình ảnh đến InputImage.fromMediaImage().
Nếu bạn sử dụng thư viện CameraX, các lớp OnImageCapturedListener và ImageAnalysis.Analyzer sẽ tính giá trị xoay cho bạn.
Nếu không dùng thư viện máy ảnh cho biết độ xoay của hình ảnh, bạn có thể tính độ xoay đó từ độ xoay của thiết bị và hướng của cảm biến camera trong thiết bị:
Sau đó, hãy truyền đối tượng media.Image và giá trị độ xoay đến InputImage.fromMediaImage():
Sử dụng URI tệp
Để tạo một đối tượng InputImage từ một URI tệp, hãy truyền ngữ cảnh ứng dụng và URI tệp đến InputImage.fromFilePath(). Điều này hữu ích khi bạn dùng ý định ACTION_GET_CONTENT để nhắc người dùng chọn một hình ảnh trong ứng dụng thư viện ảnh của họ.
Sử dụng ByteBuffer hoặc ByteArray
Để tạo một đối tượng InputImage từ ByteBuffer hoặc ByteArray, trước tiên, hãy tính độ xoay của hình ảnh như mô tả trước đó cho dữ liệu đầu vào media.Image. Sau đó, hãy tạo đối tượng InputImage bằng vùng đệm hoặc mảng, cùng với chiều cao, chiều rộng, định dạng mã hoá màu và độ xoay của hình ảnh:
Sử dụng Bitmap
Để tạo một đối tượng InputImage từ một đối tượng Bitmap, hãy khai báo như sau:
Hình ảnh được biểu thị bằng một đối tượng Bitmap cùng với độ xoay.
3. Chạy trình gắn nhãn hình ảnh
Để gắn nhãn các đối tượng trong hình ảnh, hãy truyền đối tượng image đến phương thức process() của ImageLabeler. Lưu ý: Nếu bạn đang sử dụng API CameraX, hãy nhớ đóng ImageProxy khi dùng xong, chẳng hạn như bằng cách thêm OnCompleteListener vào Task được trả về từ phương thức process. Hãy xem lớp VisionProcessorBase trong ứng dụng mẫu bắt đầu nhanh để biết ví dụ.4. Xem thông tin về các đối tượng được gắn nhãn
Nếu thao tác gắn nhãn hình ảnh thành công, một danh sách các đối tượng ImageLabel sẽ được truyền đến trình nghe thành công. Mỗi đối tượng ImageLabel đại diện cho một đối tượng được gắn nhãn trong hình ảnh. Bạn có thể nhận được nội dung mô tả văn bản của từng nhãn, điểm số độ tin cậy của kết quả trùng khớp và chỉ mục của kết quả trùng khớp. Ví dụ:
Mẹo cải thiện hiệu suất theo thời gian thực
Nếu bạn muốn gắn nhãn hình ảnh trong một ứng dụng theo thời gian thực, hãy làm theo các nguyên tắc sau để đạt được tốc độ khung hình tốt nhất:
- Nếu bạn sử dụng API Camera hoặc camera2, hãy điều chỉnh tốc độ gọi đến trình gắn nhãn hình ảnh. Nếu có một khung video mới trong khi trình gắn nhãn hình ảnh đang chạy, hãy thả khung đó. Hãy xem lớp VisionProcessorBase trong ứng dụng mẫu bắt đầu nhanh để biết ví dụ.
- Nếu bạn sử dụng API CameraX, hãy đảm bảo rằng chiến lược áp suất ngược được đặt thành giá trị mặc định ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. Điều này đảm bảo rằng mỗi lần chỉ có một hình ảnh được gửi để phân tích. Nếu có nhiều hình ảnh được tạo ra khi trình phân tích đang bận, thì những hình ảnh đó sẽ tự động bị loại bỏ và không được đưa vào hàng đợi để phân phối. Sau khi hình ảnh đang được phân tích bị đóng bằng cách gọi ImageProxy.close(), hình ảnh mới nhất tiếp theo sẽ được phân phối.
- Nếu bạn dùng kết quả của trình gắn nhãn hình ảnh để phủ đồ hoạ lên hình ảnh đầu vào, trước tiên, hãy lấy kết quả từ Bộ công cụ học máy, sau đó kết xuất hình ảnh và lớp phủ trong một bước. Thao tác này chỉ kết xuất vào bề mặt hiển thị một lần cho mỗi khung đầu vào. Hãy xem các lớp CameraSourcePreview và GraphicOverlay trong ứng dụng mẫu bắt đầu nhanh để biết ví dụ.
- Nếu bạn sử dụng API Camera2, hãy chụp ảnh ở định dạng ImageFormat.YUV_420_888. Nếu bạn sử dụng API Camera cũ, hãy chụp ảnh ở định dạng ImageFormat.NV21.