Nr ref.: LP/DE/remote/12
Avenga jest światowym ekspertem w obszarze IT i transformacji cyfrowej.
W ramach linii Transforming Industries świadczymy szeroką gamę usług – od doradztwa strategicznego, usług związanych z customer experience, projektowaniem rozwiązań, po tworzenie oprogramowania. W ramach obszaru Avenga IT Professionals oferujemy outsourcing najwyższej klasy specjalistów w trzech modelach współpracy: staff augmentation, team leasing i rekrutacje stałe.
Łączymy kreatywność i innowacyjność z umiejętnością szybkiej realizacji kompleksowych projektów nastawionych na uzyskanie wymiernych korzyści oczekiwanych od dużego dostawcy rozwiązań IT.
Avenga to ponad 2500 profesjonalistów i 20-letnie doświadczenie w realizacji projektów IT.
Jesteśmy obecni w Europie, Azji i USA. W Polsce działamy od 2004 roku (poprzednio pod nazwą IT Kontrakt).
Responsibilities
- Create and maintain a data pipeline for automating data ingestion from multiple data sources
- Build the data platform capabilities required for optimal extraction, transformation, and loading of data from a wide variety of data sources.
- Keep our data separated and secure across national boundaries through multiple data centers and AWS regions
- Work with data and analytics experts to strive for greater functionality in our data systems.
- Assemble large, complex data sets that meet functional / non-functional business requirements.
- Identify, design, and implement a solution for automating manual processes and optimizing data delivery
- Work with stakeholders including the Product, Data and Design teams to assist with data-related technical issues and support their data infrastructure needs.
Requirements
- Experience with Data Pipeline and ETL Tools such as Apache Airflow, AWS Data Pipeline, AWS Glue, Talend
- Experience with Data Warehouse solution - Redshift, Snowflake
- Experience with AWS cloud services: S3, Athena, RDS, EC2, EMR, RDS, Lambda,
- Experience with object-oriented/object function scripting languages: Python, Java, Scala, etc
- Experience with big data tools: Hadoop, Spark, Kafka, etc.
- Experience with relational SQL and NoSQL databases, including Postgres and DynamoDB.
- Experience with data pipeline and workflow management tools: Airflow, Azkaban, Luigi, etc.
- Experience with Kubernetes, EKS