Questa guida fornisce un flusso di lavoro end-to-end completo per l'addestramento dei modelli e la classificazione degli asset di immagini utilizzando la piattaforma Vertex AI di Google Cloud con Gemini 2.5 Flash. Imparerai a integrare BigQuery per il recupero dei dati, Cloud Storage per la gestione degli asset e Vertex AI per l'inferenza di machine learning in un ambiente Python Colab.
Configurazione
Imposta le seguenti variabili specifiche del progetto prima di eseguire gli esempi di codice:
PROJECT_ID = "PROJECT_ID"
REGION = "REGION " # e.g., "us-central1"
LOCATION = "LOCATION " # e.g., "us"
CUSTOMER_ID = "CUSTOMER_ID" # required to subscribe to the dataset
Configurazione dell'ambiente
Installa le dipendenze richieste e configura l'autenticazione per accedere ai servizi Google Cloud:
# Install Google Cloud SDK dependencies for AI Platform integration
!pip install google-cloud-aiplatform google-cloud-storage google-cloud-bigquery google-cloud-bigquery-data-exchange -q
# Import core libraries for cloud services and machine learning operations
import json
import os
from google.cloud import bigquery
import vertexai
from vertexai.generative_models import GenerativeModel, Part
# Configure authentication for Google Cloud service access
# Initiates OAuth flow in new browser tab if authentication required
from google.colab import auth
if os.environ.get("VERTEX_PRODUCT") != "COLAB_ENTERPRISE":
from google.colab import auth
auth.authenticate_user(project_id=PROJECT_ID)
# Initialize Vertex AI client with project configuration
vertexai.init(project=PROJECT_ID, location=REGION)
print(f"Vertex AI initialized for project: {PROJECT_ID} in region: {REGION}")
Iscriviti al set di dati di Analytics Hub
Devi anche abbonarti al set di dati di Analytics Hub.
from google.cloud import bigquery_data_exchange_v1beta1
ah_client = bigquery_data_exchange_v1beta1.AnalyticsHubServiceClient()
HUB_PROJECT_ID = 'maps-platform-analytics-hub'
DATA_EXCHANGE_ID = f"imagery_insights_exchange_{LOCATION}"
LINKED_DATASET_NAME = f"imagery_insights___preview___{LOCATION}"
# subscribe to the listing (create a linked dataset in your consumer project)
destination_dataset = bigquery_data_exchange_v1beta1.DestinationDataset()
destination_dataset.dataset_reference.dataset_id = LINKED_DATASET_NAME
destination_dataset.dataset_reference.project_id = PROJECT_ID
destination_dataset.location = LOCATION
LISTING_ID=f"imagery_insights_{CUSTOMER_ID.replace('-', '_')}__{LOCATION}"
published_listing = f"projects/{HUB_PROJECT_ID}/locations/{LOCATION}/dataExchanges/{DATA_EXCHANGE_ID}/listings/{LISTING_ID}"
request = bigquery_data_exchange_v1beta1.SubscribeListingRequest(
destination_dataset=destination_dataset,
name=published_listing,
)
# request the subscription
ah_client.subscribe_listing(request=request)
Estrazione dei dati con BigQuery
Esegui una query BigQuery per estrarre gli URI Google Cloud Storage dalla tabella
latest_observations
. Questi URI verranno passati direttamente al modello Vertex AI
per la classificazione.
# Initialize BigQuery client
bigquery_client = bigquery.Client(project=PROJECT_ID)
# Define SQL query to retrieve observation records from imagery dataset
query = f"""
SELECT
*
FROM
`{PROJECT_ID}.imagery_insights___preview___{LOCATION}.latest_observations`
LIMIT 10;
"""
print(f"Executing BigQuery query:\n{query}")
# Submit query job to BigQuery service and await completion
query_job = bigquery_client.query(query)
# Transform query results into structured data format for downstream processing
# Convert BigQuery Row objects to dictionary representations for enhanced accessibility
query_response_data = []
for row in query_job:
query_response_data.append(dict(row))
# Extract Cloud Storage URIs from result set, filtering null values
gcs_uris = [item.get("gcs_uri") for item in query_response_data if item.get("gcs_uri")]
print(f"BigQuery query returned {len(query_response_data)} records.")
print(f"Extracted {len(gcs_uris)} GCS URIs:")
for uri in gcs_uris:
print(uri)
Funzione di classificazione delle immagini
Questa funzione helper gestisce la classificazione delle immagini utilizzando il modello Gemini 2.5 Flash di Vertex AI:
def classify_image_with_gemini(gcs_uri: str, prompt: str = "What is in this image?") -> str:
"""
Performs multimodal image classification using Vertex AI's Gemini 2.5 Flash model.
Leverages direct Cloud Storage integration to process image assets without local
download requirements, enabling scalable batch processing workflows.
Args:
gcs_uri (str): Fully qualified Google Cloud Storage URI
(format: gs://bucket-name/path/to/image.jpg)
prompt (str): Natural language instruction for classification task execution
Returns:
str: Generated textual description from the generative model, or error message
if classification pipeline fails
Raises:
Exception: Captures service-level errors and returns structured failure response
"""
try:
# Instantiate Gemini 2.5 Flash model for inference operations
model = GenerativeModel("gemini-2.5-flash")
# Construct multimodal Part object from Cloud Storage reference
# Note: MIME type may need dynamic inference for mixed image formats
image_part = Part.from_uri(uri=gcs_uri, mime_type="image/jpeg")
# Execute multimodal inference request with combined visual and textual inputs
responses = model.generate_content([image_part, prompt])
return responses.text
except Exception as e:
print(f"Error classifying image from URI {gcs_uri}: {e}")
return "Classification failed."
Classificazione delle immagini batch
Elabora tutti gli URI estratti e genera le classificazioni:
classification_results = []
# Execute batch classification pipeline across all extracted GCS URIs
for uri in gcs_uris:
print(f"\nProcessing: {uri}")
# Define comprehensive classification prompt for detailed feature extraction
classification_prompt = "Describe this image in detail, focusing on any objects, signs, or features visible."
# Invoke Gemini model for multimodal inference on current asset
result = classify_image_with_gemini(uri, classification_prompt)
# Aggregate structured results for downstream analytics and reporting
classification_results.append({"gcs_uri": uri, "classification": result})
print(f"Classification for {uri}:\n{result}")
Passaggi successivi
Una volta classificate le immagini, prendi in considerazione questi flussi di lavoro avanzati:
- Ottimizzazione del modello: utilizza i risultati della classificazione per addestrare modelli personalizzati.
- Elaborazione automatica: configura Cloud Functions per classificare automaticamente le nuove immagini.
- Analisi dei dati: esegui analisi statistiche sui pattern di classificazione.
- Integrazione: collega i risultati alle applicazioni downstream.
Risoluzione dei problemi
Problemi e soluzioni comuni:
- Errori di autenticazione: assicurati che siano abilitati i ruoli IAM e l'API corretti.
- Limitazione della frequenza: implementa il backoff esponenziale per batch di grandi dimensioni.
- Vincoli di memoria: elabora le immagini in batch più piccoli per set di dati di grandi dimensioni.
- Errori di formato URI: verifica che gli URI GCS seguano il formato
gs://bucket-name/path/to/image
.
Per ulteriore assistenza, consulta la documentazione di Vertex AI e la documentazione di BigQuery.