AgileEngine logo
AgileEngine

AgileEngine is an Inc. 5000 company that creates award-winning software for Fortune 500 brands and trailblazing startups across 17+ industries. We rank among the leaders in areas like application development and AI/ML, and our people-first culture has earned us multiple Best Place to Work awards.

Data Engineer ID50062

Data EngineerData EngineerFull TimeRemoteMid LevelTeam 1,001-5,000

Location

United States

Posted

94 days ago

Salary

0

Seniority

Mid Level

Job Description

Data Engineer ID50062

AgileEngine

AgileEngine is an Inc. 5000 company that creates award-winning software for Fortune 500 brands and trailblazing startups across 17+ industries. We rank among the leaders in areas like application development and AI/ML, and our people-first culture has earned us multiple Best Place to Work awards. WHY JOIN US If you're looking for a place to grow, make an impact, and work with people who care, we'd love to meet you! ABOUT THE ROLE This Senior Data Engineer (Python) role is central to transforming large, diverse datasets into reliable insights that support research and strategic decisions across a global financial platform. You will help shape a unified data ecosystem, partnering with data scientists, researchers, and stakeholders to connect technology with real business impact. What makes this opportunity unique is the scale of data, use of modern cloud, AI, and data engineering practices, and strong influence on platform evolution. It’s a chance to grow technically while contributing to a mission-driven, collaborative environment. WHAT YOU WILL DO - Design and build scalable Data Lakes, Data Warehouses, and Data Lakehouses; - Design and implement robust ETL/ELT processes at scale using Python and pipeline orchestration tools like Airflow; - Develop ingestion workflows from diverse third-party APIs and data sources; - Manage and optimize file formats such as Parquet, Avro, and ORC for high-performance data retrieval; - Work with AI development tools to support machine learning initiatives and advanced analytics; - Act as a technical consultant to gather requirements, understand business goals, and translate them into technical roadmaps; - Work with Terraform and other tools to build AWS and on-prem infrastructure. MUST HAVES - You must be authorized to work for ANY employer in the US, as employment visa sponsorship is not available; - Bachelor’s degree in computer science/engineering or other technical field, or equivalent experience; - 5+ years of experience with Python with strong hands-on expertise; - 5+ years of experience with data processing and analytics libraries such as Pandas, Polars, PySpark, and DuckDB; - 2+ years of experience with Big Data technologies such as Spark and Snowflake; - Expert-level knowledge of Airflow or similar pipeline orchestration tools; - Deep understanding of Medallion Architecture, columnar file formats, and database technologies including SQL, NoSQL, and Lakehouse architectures; - Proven ability to work with third-party APIs for complex data ingestion; - Proficiency with cloud platforms such as AWS, GCP, and Snowflake, including advanced SQL optimization; - Upper-intermediate English level. NICE TO HAVES - Familiarity with the fintech industry and financial data domains; - Documentation skills for data pipelines, architecture designs, and best practices; - OpenSearch or Elasticsearch; - AWS SageMaker Studio and Jupyter for data analysis; - Terraform; - Scala. PERKS AND BENEFITS - Professional growth: Mentorship, TechTalks, and personalized growth roadmaps. - Competitive compensation: USD-based pay with education, fitness, and team activity budgets. - Exciting projects: Modern solutions with Fortune 500 and top product companies. - Flextime: Flexible schedule with remote and office options.

Related Categories

Related Job Pages

More Data Engineer Jobs

Thinkport logo

Senior Data Engineer (all genders) - AWS

Thinkport

Be part of the cloud evolution - Let's develop together! Wir treiben in Deutschland die Digitalisierung voran. Hierfür brauchen wir Deine Begeisterung und Unterstützung. Wir bieten Dir ein Umfeld, das Kreativität, den Austausch von innovativen Ideen und die Zusammenarbeit zwischen unseren Teams fördert. Du bekommst Entwicklungsmöglichkeiten, die Dich inspirieren werden, mit den modernsten Technologien vielfältige Lösungen für unsere Kunden zu finden und umzusetzen.

Data Engineer94 days ago
Full TimeRemoteTeam 51-200

Deine Aufgaben In unserer Transportation Unit bauen wir datengetriebene Plattformen auf Basis von AWS-Technologien. Unsere Projekte drehen sich um skalierbare Pipelines, Event-Architekturen, Datenqualität, Sicherheit und operative Exzellenz. Dabei liefern wir keine Prototypen, sondern produktionsreife Lösungen, die echten Mehrwert schaffen. Als Senior Data Engineer (all genders) gestaltest Du bei uns datengetriebene Lösungen von Grund auf mit. Du entwickelst stabile und skalierbare Datenprozesse – vom ersten Entwurf bis zum produktiven Einsatz. - Du baust moderne Data Pipelines auf Basis von AWS-Technologien wie Glue, Batch, Lambda, Step Functions und EventBridge. - Du nutzt Lake Formation, S3, KMS, IAM und den Glue Catalog, um eine sichere und leistungsfähige Datenplattform zu betreiben. - Du integrierst Streaming-Komponenten wie Kafka und MSK und sorgst dafür, dass Echtzeitdaten effizient genutzt werden können. - Du berücksichtigst Anforderungen aus dem Bereich Data Governance, zum Beispiel bei der Umsetzung von Zugriffsmodellen, Auditierbarkeit und Versionierung. - Mit unseren Platform Engineers und Architekt:innen arbeitest Du eng zusammen und sorgst dafür, dass Datenlösungen technisch sauber und nachhaltig umgesetzt werden. Dein Profil - Du hast mindestens drei Jahre Berufserfahrung im Datenumfeld und bringst fundierte Kenntnisse im Umgang mit AWS mit. - Sehr gute Python-Skills zeichnen Dich aus und Du setzt sie routiniert in der Datenverarbeitung und Prozessautomatisierung ein. - Mit ETL-Prozessen und Infrastructure as Code (insbesondere Terraform) kennst Du Dich bestens aus. - Du verfügst über ein gutes Verständnis für Datenarchitekturen, Datenqualität und den stabilen Betrieb von Produktivsystemen. - Strukturiertes Arbeiten liegt Dir, genauso wie eine ergebnisorientierte Herangehensweise mit hohem Qualitätsanspruch. - Teamarbeit und serviceorientiertes Denken sind für Dich selbstverständlich und Du bringst Dich gerne aktiv ein. - In Deutsch und Englisch kommunizierst Du sicher – sowohl schriftlich als auch im direkten Austausch. Warum wir? - Team & Kultur: Start-up-Spirit mit knapp 50 Mitarbeitenden an vier Standorten (Frankfurt, Leipzig, Hamburg, Berlin) oder remote. Regelmäßige Events wie wöchentliches Breakfast, Standort- und Teamevents sowie unser Company Day und die Weihnachtsfeier. - Entwicklung & Weiterbildung: Strukturierte Einarbeitung durch erfahreneKolleg:innen, Weiterbildungsbudget und -zeit sowie Wissensaustausch über Meetups & Events. Raum für Deine Ideen und Mitgestaltung. - Flexibilität & Benefits: Flache Hierarchien, familienfreundliche Arbeitszeiten und Remote-Option. Unterstützung für Remote-Equipment,JobRad, Jobticket sowie Firmenfitness über EGYM Wellpass für nur 20 Euro im Monat. Wir begrüßen Diversität und möchten sie nach allen Kräften fördern. Daher richten wir uns an Menschen, nicht an ein Geschlecht, sexuelle Orientierung, Herkunft oder Glauben. Mach unsere Unternehmenskultur bunter!

Germany
Thinkport GmbH logo

Senior Data Engineer – AWS

Thinkport GmbH

Wir bringen Deutschland in die Cloud. Mit der Cloud Technologie von morgen.

Data Engineer94 days ago
Full TimeRemoteTeam 51-200Since 2018H1B No Sponsor

• In unserer Transportation Unit bauen wir datengetriebene Plattformen auf Basis von AWS-Technologien. • Du entwickelst stabile und skalierbare Datenprozesse – vom ersten Entwurf bis zum produktiven Einsatz. • Du baust moderne Data Pipelines auf Basis von AWS-Technologien wie Glue, Batch, Lambda, Step Functions und EventBridge. • Du integrierst Streaming-Komponenten wie Kafka und MSK und sorgst dafür, dass Echtzeitdaten effizient genutzt werden können. • Mit unseren Platform Engineers und Architekt:innen arbeitest Du eng zusammen und sorgst dafür, dass Datenlösungen technisch sauber und nachhaltig umgesetzt werden.

Germany
Virtasant logo

Senior Data Engineer, Data Platform

Virtasant

We are a global, diverse team of cloud experts building the next generation of cloud solutions.

Data Engineer94 days ago
ContractRemoteTeam 51-200H1B No Sponsor

• Own and scale a modern healthcare data platform • Build core services, automation, and observability • Improve pipeline reliability and observability • Partner closely with data engineering, analytics, and DevOps • Architect and build core services, automation tools, and integrations that power our client's data ecosystem

United States

Role Description As a Data Analytics Intern, you’ll be working closely with our business and marketing teams to analyze performance data, identify trends, and provide actionable insights to help improve our marketing strategies, customer experience, and operational processes. This is a hands-on, learning-focused role that will provide you with real-world experience in data analytics within a dynamic e-commerce environment. Key Responsibilities: - Assist in gathering, cleaning, and organizing data from various sources (e.g., marketing campaigns, website traffic, sales data). - Analyze and interpret data to identify trends, patterns, and opportunities for business improvement. - Support the creation of reports and dashboards that provide key insights into business performance. - Collaborate with marketing and product teams to assess the performance of campaigns and product offerings. - Help track and measure KPIs, such as conversion rates, customer acquisition costs, and lifetime value. - Present findings and recommendations in a clear and actionable manner to stakeholders. - Work with senior team members to enhance data models and business intelligence systems. Qualifications - Currently enrolled in a Bachelor’s or Master’s degree program in Data Analytics, Business, Statistics, Computer Science, or a related field. - Familiarity with data analysis tools and software (e.g., Excel, Google Analytics, SQL, Tableau, R, Python, etc.). - Strong analytical thinking with the ability to identify trends and derive actionable insights from data. - Basic understanding of statistics and data visualization techniques. - Excellent communication skills and the ability to present data in a clear, concise, and actionable way. - Ability to work independently, manage multiple tasks, and meet deadlines in a fast-paced, remote work environment. - Passion for fashion, e-commerce, or fitness is a plus!

United States
$1.4K - $1.6K / month