Apache Spark in Amazon EMR

Amazon EMR è l'ambiente migliore per eseguire Apache Spark. È possibile creare in modo rapido e veloce cluster Spark tramite la Console di gestione AWS, l'interfaccia a riga di comando o l'API di Amazon EMR. È anche possibile sfruttare altre funzionalità di Amazon EMR, ad esempio le rapide connessioni di Amazon S3 tramite il file system di Amazon EMR (EMRFS), l'integrazione con il marketplace di istanze Spot di Amazon EC2 e il catalogo dati AWS Glue, nonché la funzione di scaling gestito EMR per aggiungere o rimuovere istanze dal cluster. AWS Lake Formation offre un controllo granulare degli accessi, mentre l'integrazione con AWS Step Functions aiuta a orchestrare le pipeline di dati. EMR Studio (anteprima) è un ambiente di sviluppo integrato (IDE) che semplifica lo sviluppo, la visualizzazione e il debug delle applicazioni di data engineering e data science scritte in R, Python, Scala e PySpark per i data scientist e gli ingegneri dei dati. EMR Studio fornisce notebook Jupyter completamente gestiti e strumenti come Spark UI e YARN Timeline Service per semplificare il debug. EMR Notebooks semplifica la sperimentazione e la creazione di applicazioni con Spark. Inoltre, è possibile utilizzare Apache Zeppelin per creare notebook interattivi e collaborativi per la visualizzazione dei dati tramite Spark.

Ottieni ulteriori informazioni su Apache Spark in questa pagina.

EMR è dotato del runtime di Amazon EMR per Apache Spark, un ambiente di runtime con prestazioni ottimizzate per Apache Spark attivato per impostazione predefinita sui cluster Amazon EMR. Il runtime di Amazon EMR per Apache Spark può essere oltre 3 volte più veloce dei cluster senza il runtime EMR e ha una compatibilità API del 100% con Apache Spark standard. Grazie a prestazioni ottimizzate, i carichi di lavoro vengono eseguiti più rapidamente il che consente di risparmiare sui costi di calcolo, senza dover apportare modifiche alle applicazioni.

Spark consente di creare piani di query efficienti per la trasformazione dei dati utilizzando un motore di esecuzione di grafi aciclici diretti. Spark, inoltre, memorizza dati in ingresso, in uscita e parziali in memoria come dataframe resilienti o RDD (Resilient Distributed Dataset), grazie ai quali le prestazioni di elaborazione di carichi di lavoro iterativi ed interattivi risultano migliori senza pesare sulle operazioni I/O.

Apache Spark offre supporto nativo per Java, Scala, SQL e Python che fornisce un'ampia libertà per quanto riguarda il linguaggio di programmazione delle applicazioni. È inoltre possibile inviare query SQL o HiveQL mediante il modulo Spark SQL. In aggiunta alle applicazioni in esecuzione, è possibile usare l'API di Spark in modo interattivo con Python o Scala direttamente nella shell di Spark o tramite EMR Studio o i notebook di Jupyter nel cluster. Il supporto per Apache Hadoop 3.0 in EMR 6.0 offre il supporto per il container Docker che consente di semplificare la gestione delle dipendenze. È anche possibile avvalersi di notebook EMR(basati su Jupyter) indipendenti dal cluster oppure di Zeppelin per creare notebook interattivi e collaborativi per la visualizzazione e la navigazione nei dati. È possibile ottimizzare ed eseguire il debug dei carichi di lavoro nella console EMR che dispone di un server della cronologia di Spark persistente fuori cluster.

Apache Spark include diverse librerie, che aiutano a creare applicazioni per machine learning (MLlib), elaborazione di flussi (Spark Streaming) ed elaborazione di grafi (GraphX). Queste librerie sono integrate nell'ecosistema di Spark e possono essere impiegate senza ulteriori configurazioni per diversi casi d'uso. Inoltre, è possibile utilizzare framework di deep learning quali Apache MXNet con le applicazioni Spark. L'integrazione con AWS Step Functions consente di aggiungere automazione e orchestrazione del flusso di lavoro serverless alle tue applicazioni.

È possibile avviare un processo di Apache Spark con l'API Step di EMR, utilizzare Spark con EMRFS per accedere direttamente ai dati in S3, ridurre i costi utilizzando la capacità di istanze Spot EC2, impiegare lo scaling gestito EMR per aggiungere e rimuovere capacità in modo dinamico e avviare cluster temporanei o a lungo termine a seconda del carico di lavoro. È anche possibile configurare la crittografia tramite Spark e l'autenticazione tramite Kerberos con la massima semplicità mediante una configurazione di sicurezza di EMR. Inoltre, è possibile avvalersi del catalogo dati di AWS Glue per memorizzare i metadati della tabella Spark SQL o impiegare Amazon SageMaker in pipeline di machine learning Spark. EMR installa e gestisce Apache Spark in Hadoop YARN e consente di aggiungere al cluster altre applicazioni di Big Data. EMR con Apache Hudi consente di gestire in modo più efficiente l'acquisizione di dati di modifica (Change Data Capture/CDC) e aiuta con le normative sulla privacy come GDPR e CCPA semplificando la cancellazione dei record. Fai clic qui per ulteriori informazioni sulle caratteristiche di EMR.