Chip Huyen

Machine learning systems are both complex and unique. Complex because they consist of many different components and involve many different stakeholders. Unique because they're data dependent, with data varying wildly from one use case to the next. In this book, you'll learn a holistic approach to designing ML systems that are reliable, scalable, maintainable, and adaptive to changing environments and business requirements.

Author Chip Huyen, co-founder of Claypot AI, considers each design decision--such as how to process and create training data, which features to use, how often to retrain models, and what to monitor--in the context of how it can help your system as a whole achieve its objectives. The iterative framework in this book uses actual case studies backed by ample references.

This book will help you tackle scenarios such as:
- Engineering data and choosing the right metrics to solve a business problem
- Automating the process for continually developing, evaluating, deploying, and updating models
- Developing a monitoring system to quickly detect and address issues your models might encounter in production
- Architecting an ML platform that serves across use cases
- Developing responsible ML systems

An Iterative Process for Production-Ready Applications

Designing Machine Learning Systems

Recent breakthroughs in AI have not only increased demand for AI products, they've also lowered the barriers to entry for those who want to build AI products. The model-as-a-service approach has transformed AI from an esoteric discipline into a powerful development tool that anyone can use. Everyone, including those with minimal or no prior AI experience, can now leverage AI models to build applications. In this book, author Chip Huyen discusses AI engineering: the process of building applications with readily available foundation models.

The book starts with an overview of AI engineering, explaining how it differs from traditional ML engineering and discussing the new AI stack. The more AI is used, the more opportunities there are for catastrophic failures, and therefore, the more important evaluation becomes. This book discusses different approaches to evaluating open-ended models, including the rapidly growing AI-as-a-judge approach.

AI application developers will discover how to navigate the AI landscape, including models, datasets, evaluation benchmarks, and the seemingly infinite number of use cases and application patterns. You'll learn a framework for developing an AI application, starting with simple techniques and progressing toward more sophisticated methods, and discover how to efficiently deploy these applications.

Understand what AI engineering is and how it differs from traditional machine learning engineering
Learn the process for developing an AI application, the challenges at each step, and approaches to address them
Explore various model adaptation techniques, including prompt engineering, RAG, fine-tuning, agents, and dataset engineering, and understand how and why they work
Examine the bottlenecks for latency and cost when serving foundation models and learn how to overcome them
Choose the right model, dataset, evaluation benchmarks, and metrics for your needs
Chip Huyen works to accelerate data analytics on GPUs at Voltron Data. Previously, she was with Snorkel AI and NVIDIA, founded an AI infrastructure startup, and taught Machine Learning Systems Design at Stanford. She's the author of the book Designing Machine Learning Systems, an Amazon bestseller in AI.

Building Applications with Foundation Models

AI Engineering

Xách Ba Lô lên Và Đi - Tập 2

Mọi người hay hỏi tôi quyết định đi "vòng quanh thế giới" như thế nào. Tôi chẳng quyết định. Khi bắt đầu đi, tôi mới chỉ là một con bé 19 tuổi không một xu dính túi, nói đi "vòng quanh thế giới" chỉ như một đứa trẻ con 5 tuổi nói với mẹ "lớn lên con muốn làm nhà du hành vũ trụ". Chuyến đi dài ngày này của tôi bắt đầu từ một chuyến đi ba ngày sang Brunei. Một giây phút nông nổi đã làm thay đổi cả cuộc đời tôi từ khi đó.

Châu Á Là Nhà. Đừng Khóc!

Xách Ba Lô Lên Và Đi - Tập 1

“Giấc mơ Mỹ - Đường đến Stanford” không phải là một cuốn cẩm nang du học với những gợi ý đi đâu, ăn gì, hay làm sao để nhận học bổng. Bởi Huyền Chip chưa từng và không bao giờ chọn đi lối mòn, không ngại thử thách và luôn khát khao sống khác biệt. Học xong cấp ba, cô không thi đại học mà nhận lời mời làm việc ở một công ty Malaysia. Khi công việc đang tiến triển thuận lợi, cô từ bỏ công việc mơ ước để đi vòng quanh thế giới. Về nước sau chuyến đi kéo dài gần ba năm qua ba châu lục, cô khiến tất cả sửng sốt khi báo tin mình nhận được học bổng toàn phần tại một trong những ngôi trường hàng đầu thế giới. Cô bỏ lại sau lưng những chuyến đi dài ngày và những câu chuyện thị phi để trở thành một sinh viên tưởng như bất bình thường nhưng thực sự lại rất bình thường ở một ngôi trường đặc biệt như Stanford. Bạn sẽ tìm được gì trong nhật ký về những năm đầu tại trường đại học của một cô gái như vậy?

Không phải cuốn hồi ký với những đoạn miêu tả tâm trạng sâu lắng trữ tình hay những pha hành động cao trào, gay cấn, “Giấc mơ Mỹ - Đường đến Stanford” như một người bạn dễ gần và tin cậy, từ tốn kể về hành trình bốn mùa: mùa thu xao xuyến hạnh phúc với giấc mơ Stanford, mùa đông khao khát mong chờ vì những trải nghiệm mới, mùa xuân nỗ lực dồn sức trong môi trường khắc nghiệt và khép lại một năm khi mùa hè rực rỡ căng tràn nhiệt huyết đã đến như lời hẹn: Lại xách ba lô lên và đi. Vì trải nghiệm đáng giá nhất chính là những trải nghiệm của cảm xúc và trái tim.

Giấc Mơ Mỹ - Đường Đến Stanford

Kate DiCamillo

Một ngày mùa hè, cô bé lên mười India Opal Buloni xuống phố tới siêu thị nhỏ trong vùng để mua vài thứ lặt vặt - và cô bé trở về nhà cùng một chú chó.

Winn-Dixie không phải là chú chó tầm thường. Mặc dù nó to bự, gầy giơ xương và bốc mùi nữa, nhưng có điều tuyệt diệu là nó thường xuyên nở nụ cười tươi roi rói. Từ khi có Winn-Dixie, cuộc sống của Opal biến đổi thật nhiều. Bởi vì Winn-Dixie mà Opal bắt đầu cảm nhận thấy những người xung quanh hết sức thú vị, để rồi cô bé có bao nhiêu bạn mới. Bởi vì Winn-Dixie mà Opal cuối cùng đã dám hỏi cha về mẹ, người đã rời bỏ cô bé từ năm lên ba… Gần như tất cả mọi điều xảy ra với Opal trong mùa hè đó đều bởi vì Winn-Dixie!

Câu chuyện nhẹ nhàng, cảm động này đã đưa về Huy chương Newbery (năm 2001) cho Kate DiCamillo, khai mở rất nhiều thành công trong sự nghiệp viết sách thiếu nhi của cô. Tác phẩm đã được đạo diễn Vương Ảnh người Trung Quốc dựng phim thành công năm 2005.

Bởi Vì Winn-Dixie

“Những ai yêu mến Huyền Chip và theo dõi cuộc hành trình của châu Á của cô trong tập một “Xách ba lô lên và Đi” - “Châu Á là nhà. Đừng khóc !” có lẽ đã đủ kinh ngạc trước cái máu phiêu lưu của cô bạn nhỏ bé này. Đến tập hai, “Đừng chết ở châu Phi”, bạn đọc còn thấm thía hơn trước sự liều lĩnh của Chip. Chỉ có lòng can đảm lấp đầy trong ba lô, Chip hăng hái lên đường ngược xuôi châu Phi hoang dã.

Đi dọc châu Phi một mình mặc những lời cảnh báo từ anh bạn thân Asher, Huyền Chip trải qua cung đường nguy hiểm nhất, đối mặt với cô đơn đến cùng cực, với cái đói, khát và căn bệnh thế kỷ. Cô trải qua những khó khăn mà mình chưa bao giờ tưởng tượng ra, những thách thức đã trở thành nỗi ám ảnh: bị sáu tên cướp cầm dao dí vào cổ, dân địa phương dai dẳng đeo bám xin tiền… Tuy nhiên, những điều đó không hạ gục được cô bạn nhỏ bé này và châu Phi vẫn là nơi cô mang nợ. Trái tim ấm áp của con người châu Phi khiến tất cả của vùng đất này trở thành nỗi nhớ day dứt trong Huyền.

Với “Đừng chết  ở châu Phi”, Huyền Chip vẫn cho thấy sự đơn giản, chân thật trong cách viết. Sự thẳng thắn của của một kẻ ưa mạo hiểm pha lẫn chất lãng mạn giúp “Xách ba lô lên và Đi” có sức hút đặc biệt. Trải nghiệm của cô ở châu Phi sẽ thêm lửa cho những ai muốn vượt qua giới hạn của bản thân và bước ra ngoài thế giới để khám phá chính mình.”

Đừng Chết Ở Châu Phi!

Xách Ba Lô Lên Và Đi - Tập 2

Tôi tin rằng chỉ khi nào chúng ta dám đối mặt với cái chết, chúng ta mới có thể hiểu được giá trị của sự sống. Ai cũng biết rằng một ngày nào đó mình sẽ chết, nhưng chúng ta vẫn sống như mình là bất tử. Một ngày nào đó chúng ta sẽ làm điều mình yêu thích. Một ngày nào đó chúng ta sẽ thay đổi. Một ngày nào đó chúng ta sẽ trở thành con người mình muốn trở thành. Nhưng nếu bạn đã chần chừ cả năm mười năm không làm việc gì đó, chẳng có lý do để làm việc đó ngày hôm nay, hay ngày mai, hay một ngày nào đó. Đến khi cái chết tìm đến với ta, tất cả đã quá muộn.

Một cuộc sống không xoành xĩnh, với tôi, là một cuộc sống có ý nghĩa. Là cuộc sống khi mà tôi tạo ra được giá trị thực sự, giúp đỡ được nhiều người, cho đi nhiều hơn là nhận. Là cuộc sống khi mà sau khi tôi chết đi, sẽ có người thương tiếc sự ra đi của tôi không phải vì mối quan hệ máu mủ, mà bởi vì tôi đã góp phần tạo nên những thay đổi tích cực trong cuộc sống của họ.

Chip Huyen

About

Books

Join the club