Đại sư Dsum Khyenpa sinh vào năm Kim Dần, tức năm 1110 theo Tây lịch, trong một gia đình Phật tử thuần thành tại Teshư, thuộc miền đông Tây Tạng. Lúc nhỏ, ngài được đặt tên là Gephel. Cha ngài là một người uyên bác về Phật học nên cũng trở thành vị thầy dạy đầu tiên của ngài. Ngay từ những năm thiếu thời, ngài đã nổi tiếng là một đứa trẻ thông minh học rộng, và còn hơn thế nữa, ngài đã sớm chuyên tâm thực hành giáo pháp một cách tinh tấn. Không tự hài lòng với những gì đã đạt được, ngài tiếp tục tìm đến tham học với nhiều bậc thầy nổi tiếng ở khắp nơi.
Năm lên 12 tuổi ngài bắt đầu học Duy thức học của Đại thừa với đại sư Jamarwa Chapa và Trung quán luận với ngài Nyima Drak. Trong thời gian này, ngài vào chùa sống với chư tăng để tập sự làm một người xuất gia. Năm 20 tuổi, ngài đến miền trung Tây Tạng và thọ giới cụ túc với ngài Mal Duldzin để chính thức xuất gia trở thành một vị tỳ-kheo. Ngài dành trọn 12 năm sau đó để nghiên cứu sâu xa giáo pháp và thực hành thiền định.
Ngài đã từng theo học với Chapa Chokyi Senge (1109-1169), một vị luận sư nổi tiếng đương thời, và ngài Patsab Lotsawa Nyima Drakpa (1055-?), người đã dịch rất nhiều kinh điển Đại thừa sang tiếng Tây Tạng.
Năm 30 tuổi, ngài đến Daklha Gampo để theo học với ngài Gampopa, vị đệ tử chân truyền của ngài Milarepa. Mặc dù nhận ra ngay năng lực xuất chúng của ngài, nhưng ngài Gampopa vẫn yêu cầu ngài trước hết phải học hỏi và thực hành đầy đủ các bước tu tập theo truyền thống tiệm tu Khadampa, nhằm củng cố một nền tảng vững chắc. Tiếp theo đó, ngài cũng phải học tập và nghiên cứu toàn bộ giáo nghĩa kinh điển. Phương thức mà ngài Gampopa áp dụng trong việc đào tạo Dsum Khyenpa về sau đã trở thành khuôn mẫu cho tất cả những người tu tập theo truyền thống Karma Kagyu, nhằm đảm bảo một kiến thức Phật học nền tảng đúng đắn cho vị hành giả trước khi bước vào các giai đoạn tu tập cao siêu hơn, ngay cả khi vị ấy đã thực hành được các pháp môn tối mật của Kim cương thừa (Vajra¬yna).
Sau khi được ngài Gampora truyền thụ mật pháp Vô thượng Du-già Tan-tra (Vajra¬yna), ngài chuyên tâm tu tập pháp thiền chỉ quán trong suốt 4 năm sau đó. Trong 9 tháng đầu tiên, ngài tập trung vào việc thực hành thiền để làm an định tâm ý. Ngài tiếp tục tu tập miên mật trong hơn ba năm sau đó thì cảm nhận được tâm ý sáng suốt rỗng rang như mặt trời rực sáng giữa khoảng không. Khi ấy, ngài Gampopa mới bắt đầu truyền thụ cho ngài những mật pháp của dòng Karma Kagyu. Chỉ trong 9 ngày, ngài đã tiếp nhận được tất cả những gì mà trước đây ngài Naropa, một hành giả vĩ đại, đã phải theo học với ngài Tilopa trong suốt 12 năm trời.
Sau đó, một vị đệ tử lớn của ngài Gampopa là ngài Rechungpa được giao nhiệm vụ truyền thụ sáu pháp Du-già của Naropa cho ngài. Ngài thực hành tiến bộ rất nhanh. Với lòng từ bi trải khắp nên khi tu tập pháp môn Nội nhiệt (gtum-mo - tạo ra sức nóng trong thân hành giả), sự tiến bộ cực kỳ nhanh chóng của ngài đã khiến cho mọi người đều phải kinh ngạc.
Sau đó, ngài Gampopa truyền dạy cho ngài pháp môn Đại thủ ấn (Mahamudra) và giáo pháp Kim cương thừa, đồng thời cũng khuyên ngài nên đến Kampo Gangra ở tỉnh Kham để thực hành các pháp này, và dự báo rằng ngài sẽ giác ngộ tại đó.
Ngài đến Shau Tago xây dựng một tịnh thất nhỏ gọi là Drub Zhi Densa và tu tập pháp môn Đại thủ ấn. Trong một lần nhập định, ngài nghe có tiếng nói báo rằng ngài Gampopa đã viên tịch. Ngài liền trở lại Daklha Gampo để lễ kính thầy. Tại đây, ngài nhìn thấy một linh ảnh: ngài Gampopa hiện ra giữa không trung. Nhớ lại lời khuyên trước đây của thầy, ngài liền đến vùng Kampo Gangra để tu tập. Tương truyền vị sơn thần Kampo đã hiện đến thỉnh cầu ngài đến đó truyền pháp trong một lần nhập định. Nhưng một người huynh đệ đồng môn của ngài là Phagmo Drupa đã ngăn cản ngài, viện lẽ rằng nếu ngài đến tỉnh Kham, sự truyền pháp rộng rãi sẽ rút ngắn tuổi thọ của ngài. Ngài đã vui vẻ trả lời: “Dù sao tôi cũng phát nguyện sẽ sống đến 84 tuổi để làm lợi lạc cho tất cả chúng sinh.”
Năm 50 tuổi, ngài đến tu tập ở Kampo Nénang. Tại đây ngài đạt được sự chứng ngộ cao nhất trong các bậc thiền định của pháp môn Đại thủ ấn, qua đó không còn có sự phân biệt giữa ngày và đêm, giữa mộng và thực, giữa trạng thái nhập định và trạng thái bình thường. Vào giây phút chứng ngộ này, ngài nhìn thấy linh ảnh các vị không hành nữ (ḍkinỵ) hiện ra dâng cúng cho ngài một vương miện kim cương màu đen được dệt bằng tóc của chính họ. Về sau, hình ảnh vương miện màu đen này luôn xuất hiện trên đầu các vị hóa thân Karmapa để biểu thị sự chứng ngộ của các ngài.
Sau khi đạt đến trạng thái thiền định cao siêu nhất, ngài đã hóa hiện đến Tích Lan để được vị thánh Mật thừa là Vajraghanta truyền pháp Cakrasamvara. Ngài cũng hóa hiện lên cung trời Đâu-suất để được Bồ Tát Di-lặc truyền dạy về các hạnh nguyện của hàng Bồ Tát.
Ngài lưu lại Kampo Nénang hơn 18 năm sau đó. Năm 55 tuổi (1164), ngài xây dựng tại đây một tu viện. Năm năm sau (1169), ngài tiếp tục xây dựng tu viện Panphuk ở Lithang, thuộc miền đông Tây Tạng.
Đức độ của ngài được mọi người cảm mến và danh tiếng ngài truyền ra khắp nơi. Người đương thời gọi ngài là Bậc đạo sư biết rõ sự việc trong ba đời. Thật ra, tên của ngài là Dsum Khyenpa trong tiếng Tây Tạng vốn đã có ý nghĩa là “người biết rõ được quá khứ, hiện tại và tương lai”. Điều này rõ ràng đã báo trước ngay từ khi ngài sinh ra về khả năng chứng ngộ của ngài, vốn siêu việt cả thời gian vô tận và thấu suốt hết thảy mọi việc.
Khi vị pháp sư người Kashmir là Sakyasri đến Tây Tạng, vị này đã gọi ngài bằng tên gọi Karmapa, có nghĩa là “người thực hiện Phật sự” hay “hóa thân hoạt dụng của chư Phật”. Vị này nói rằng, sự ra đời của Dsum Khyenpa đã được đức Phật Thích-ca dự báo trong kinh Tam-muội Vương (Samdhirja-stra). Đức Lạt-ma Zhang cũng xác nhận điều này. Cả hai vị đều nói rằng Dsum Khyenpa chính là hiện thân cho tâm từ bi tỉnh giác của đức Quán Thế Âm. Danh xưng Karmapa từ đó đã được dùng để gọi các hóa thân tái sinh của ngài về sau.
Năm 1183, ngài Dsum Khyenpa đến vùng Drelong thuộc tỉnh Kham. Tại đây đang có nhiều sự tranh chấp, ngài sử dụng trí tuệ và tâm từ bi để xóa tan mọi sự tranh chấp, thù hằn, mang lại sự bình yên cho đời sống của người dân. Cũng tại đây, ngài sử dụng năng lực siêu nhiên để chữa khỏi bệnh tật cho rất nhiều người, kể cả những kẻ mù lòa và bại liệt. Vào năm 1185, ngài xây dựng một trung tâm tu học quan trọng ở Karma Gưn, thuộc miền đông Tây Tạng. Chính tại nơi đây ngài gặp được Drogon Rechen, người đệ tử về sau sẽ kế thừa dòng pháp của ngài.
Về cuối đời, ngài trở lại Daklha Gampo, nơi trước đây ngài đã được thọ giáo với ngài Gampopa. Tại đây, ngài đi khắp các chùa để cúng dường, sửa sang nhiều công trình xây dựng và truyền dạy giáo pháp cho chúng tăng. Năm 80 tuổi (1189), ngài vẫn còn tiếp tục làm việc không mệt mỏi để xây dựng một trung tâm tu học quan trọng nhất ở Tsurphu, trong vùng thung lũng Tolung thuộc miền trung Tây Tạng. Nơi đây về sau trở thành trú xứ của tất cả các vị Karmapa cho đến năm 1959, khi vị Karmapa thứ 16 cùng các đệ tử rời khỏi Tây Tạng.
Khoảng 3 tháng trước khi ngài viên tịch, bầu trời tự nhiên xuất hiện những mống cầu vồng kỳ lạ, mặt đất rung nhẹ và người ta nghe có tiếng động ầm ì trong lòng đất. Vào ngày đầu tiên của năm Thủy Sửu, tức năm 1194 theo Tây lịch, ngài gọi người đệ tử chính là Drogon Rechen đến giao phó việc điều hành tự viện Tsurphu và bảo quản các kinh điển, thánh tích. Ngài cũng chia đều tất cả mọi vật dụng sở hữu của mình cho tăng chúng.
Sau đó, Karmapa Dsum Khyenpa để lại cho Drogon Rechen một di thư, trong đó nói rõ những hoàn cảnh mà ngài sẽ tái sinh để trở thành vị Karmapa tiếp theo.
Vào buổi sáng ngày mồng 3 năm Thủy Sửu, Karmapa Dsum Khyenpa giảng dạy cho các đệ tử của ngài bài pháp cuối cùng. Sau đó, ngài ngồi yên lặng lẽ nhìn chăm chú lên bầu trời và nhập định. Trong tư thế ngồi an tĩnh bất động như vậy, ngài viên tịch trước lúc giữa trưa, nhưng không ai có thể biết được chính xác là vào giờ phút nào.
Tang lễ được tổ chức kéo dài trong một tuần sau đó, và nhiều người đã nhìn thấy những hiện tượng lạ. Một số người nhìn thấy ngài hiện ra trong đám khói bốc lên từ giàn hoả táng; một số khác nhìn thấy nhiều mặt trời hiện ra và có các vị không hành nam (ḍka), không hành nữ (ḍkinỵ) cùng nhau nhảy múa giữa các mặt trời ấy.
Sau khi hoàn tất lễ hỏa táng, nhục thân của ngài còn lưu lại trái tim và một phần lưỡi. Điều này được xem là biểu thị cho tâm lực từ bi và tính chân thật của những lời dạy của ngài. Ngoài ra, các đệ tử ngài cũng thu nhặt được rất nhiều hạt xá-lợi và một số mẩu xương có hình tượng Phật. Các vị đệ tử đã xây dựng một ngôi tháp để thờ phụng tất cả, phỏng theo hình dáng và kích thước của tháp Dhanyakataka ở miền nam Ấn Độ, nơi đức Phật Thích-ca đã từng giáo hóa.
Đức Karmapa Dsum Khyenpa có nhiều đệ tử thấm nhuần giáo pháp của ngài. Người trực tiếp kế thừa công việc giáo huấn của ngài là Drogon Rechen (1148-1218). Trước khi vị Karmapa thứ hai kịp trưởng thành, Drogon Rechen đã truyền lại cho Pomdrakpa (1170 - 1249). Sau đó, chính vị này đã chuyển giao vị trí lãnh đạo tông phái lại cho vị Karmapa đời thứ hai.
Drogon Rechen là một đệ tử kiệt xuất của Karmapa Dsum Khyenpa. Ông sinh ra ở vùng Yarlung thuộc tỉnh Tsang, miền trung Tây Tạng. Ngay từ khi còn là một đứa trẻ, ông đã chứng tỏ khả năng phi thường trong việc tiếp thu các phần giáo lý Đại thừa cũng như Tiểu thừa. Năm lên 9 tuổi, Drogon Rechen tìm đến một bậc đạo sư thuộc dòng Karma Kagyu là Zangri Repa và được vị này truyền dạy giáo pháp. Ông tu tập rất tinh tấn, có khả năng thực hành thiền định ngay giữa trời rét buốt nhưng chỉ khoác trên người một tấm áo hết sức mỏng manh. Drogon Rechen đã đạt được nhiều thành quả tu tập quan trọng ngay cả trước khi được gặp đức Karmapa Dsum Khyenpa.
Năm ông được 15 tuổi thì đạo sư Zangri Repa viên tịch. Trước khi viên tịch, ngài khuyên Drogon Rechen nên tinh tấn tìm học với các vị đệ tử chân truyền của thuộc hệ phái của ngài Milarepa. Sau đó, ông đã tìm học với nhiều bậc thầy khác nhau thuộc cả hai dòng phái Karma Kagyu và Đại cứu cánh (Dzogchen). Mặc dù đạt được nhiều kết quả quan trọng cũng như phát triển khả năng thiền định rất sâu, nhưng ông vẫn không hoàn toàn cảm thấy hài lòng với kết quả tu tập của mình. Vì thế, ông quyết định ra đi để tìm kiếm một điều kiện tu tập tiến xa hơn. Ông khởi sự đi đến tỉnh Kham thuộc miền đông Tây Tạng, băng qua vùng Kongpo. Trên đường đi, ông gặp được nhiều bậc thầy truyền dạy các phần giáo pháp khác nhau như ngài Thưpa Samdrup với tất cả tinh yếu của Đoạn giáo (Chưd); ngài Ngaripa với các phần giáo pháp Kim cương thủ (Vajrapṇi) và Kim cương Tát-đỏa (Vajrasattva); ngài Nyalpa Josey với các phần giáo pháp Diệu cát tường (Mađjuśrỵ) và Đại hắc (Mahkla). Ông thành lập nhiều trung tâm tu học theo truyền thống Tantra và những nơi này về sau đào tạo được rất nhiều tăng sĩ.
Vào thời điểm này, Drogon Rechen được nhiều người kính trọng vì có trí tuệ uyên bác và khả năng thiền định sâu xa. Do đó, tự sâu thẳm trong lòng ông dần dần khởi lên một sự kiêu mạn. Khi nghe danh tiếng của vị Karmapa Dsum Khyenpa lúc đó đang ở Kampo Nénang, ông liền quyết định tìm đến để ra mắt. Khi ra đi, trong lòng ông chỉ có ý định sẽ lễ bái vị đạo sư chứ không hề nghĩ sẽ cầu học với vị này. Nhưng ngay khi vừa gặp nhau, Karmapa Dsum Khyenpa liền bảo Drogon Rechen rằng: “Này hành giả Tantra trẻ tuổi, ngươi có thể đến đây theo học với các đệ tử của ta.” Câu nói này chạm ngay vào lòng kiêu mạn Drogon Rechen, ông liền hỏi lại: “Đệ tử của ngài là những ai?” Vị Karmapa trả lời: “Ngươi có thể học với Deuchung Sangye, Baltsa Takdelwa, hoặc với rất nhiều người khác nữa.”
Drogon Rechen ngay lập tức đến gặp Deuchung Sangye. Vị này lại đề nghị ông đến gặp Baltsa Takdelwa. Theo lời chỉ dẫn của Deuchung Sangye, ông tìm đến một hang động nơi Baltsa Takdelwa đang nhập định. Vừa đến nơi, ông nhìn thấy một con cọp rất lớn đang nằm ngủ gần cửa hang. Quá khiếp sợ, ông bỏ chạy về và kể lại cho Deuchung nghe. Vị này bình thản bảo ông hãy trở lại hang động. Lần này, ông nhìn thấy một vũng nước nhỏ trong hang. Ông đi quanh vũng nước, nhặt mấy viên sỏi ném xuống nước rồi bỏ đi. Nhưng Deuchung một lần nữa đề nghị ông hãy trở lại hang. Lần này, ông lại nhìn thấy một vị sư già đang nhập định. Ông cũng nhìn thấy những viên sỏi mà khi nảy ông ném xuống vũng nước giờ đây đang nằm trong lòng bàn tay để ngửa lên của vị sư này.
Ngay khi ấy, Drogon Rechen suy nghĩ: “Nếu như các vị đệ tử đã siêu việt thế này thì bậc thầy của họ thật vĩ đại biết bao.” Hết sức cảm phục, ông liền xin được ở lại và theo học chuyên cần trong suốt 7 năm sau đó, trở thành vị đệ tử giỏi nhất của Karmapa Dsum Khyenpa.
Drogon Rechen chính thức xuất gia năm 37 tuổi và được thầy đặt tên là Sưnam Drakpa. Khi đức Karmapa Dsum Khyenpa hoằng hóa ở miền trung Tây Tạng, ông vẫn ở lại tỉnh Kham để thay thầy điều hành tự viện. Sau khi đức Karmapa thứ nhất viên tịch, ông được giao trọng trách thay ngài điều hành mọi công việc.
Drogon Rechen viên tịch vào năm 70 tuổi. Đệ tử lớn nhất của ông là Pomdrakpa Sưnam Dorje kế tục trong việc duy trì tông phái.
Pomdrakpa sinh năm 1170 tại Dri Dampa Chưchuk thuộc miền trung Tây Tạng. Lên 5 tuổi ông đã bắt đầu được học giáo pháp, và đến năm 9 tuổi thì được ngài Nyen Lhakhang Gangpo truyền dạy giáo pháp Tan-tra Mẫu. Năm 14 tuổi, ông được nghe biết danh tiếng của Drogon Rechen. Ngay lần đầu tiên nghe đến tên vị thầy này, ông liền nhìn thấy một linh ảnh trong khi nhập định, có những vị không hành nữ mặc áo đỏ hiện ra báo cho ông biết rằng Drogon Rechen chính là vị thầy của ông. Ngay sau đó, ông liền tìm đến Drogon Rechen và được vị này nhận làm đệ tử. Sau khi thọ giới xuất gia, ông được ban pháp hiệu là Sưnam Dorje. Kể từ đó, ông chuyên cần theo học với Drogon Rechen và được vị này hết lòng truyền dạy. Ông thực hành việc tu tập hết sức chuyên cần và tinh tấn trong suốt nhiều năm. Trong nhiều lần nhập định, ông được thấy các linh ảnh khác nhau của các vị hộ thần. Có lần ông được nhìn thấy Tổ sư Karmapa Dsum Khyenpa và được vị này chỉ dạy cho nhiều điều quan trọng trong việc tu tập. Về sau, ông được Drogon Rechen chọn làm người kế thừa công việc giáo hóa.
Sau khi Drogon Rechen viên tịch, việc giáo hóa đồ chúng của Pomdrakpa ngày càng phát triển mạnh mẽ. Ông cũng là người thực hiện công việc vô cùng quan trọng là nhận ra vị Karmapa tái sinh đời thứ hai và sau đó giao lại quyền lãnh đạo tông phái cho vị này. Pomdrakpa viên tịch vào năm 1249 khi ông được 79 tuổi.
Một số các vị đệ tử khác của Karmapa Dsum Khyenpa đã sáng lập ra những chi phái nhỏ như: Tak-lungpa sáng lập chi phái Ta-lung Karma Kagyu, Tsangpa Gyare sáng lập chi phái Drukpa Karma Kagyu, và Lama Khadampa Deshek sáng lập chi phái Katok Nyingma.
Vị Karmapa thứ nhất Dsum Khyenpa có vai trò hết sức quan trọng trong dòng Karma Kagyu. Không chỉ là người sáng lập tông phái, ngài còn là người đầu tiên phát đại nguyện tái sinh để tiếp tục công việc giáo hóa chúng sinh. Di thư của ngài cho thấy rõ việc tái sinh làm vị Karmapa thứ hai là hoàn toàn do nơi đại nguyện của ngài mà không phải do nghiệp lực dẫn dắt như các chúng sinh khác. Truyền thống tái sinh của Phật giáo Tây Tạng nói chung và của dòng Karma Kagyu nói riêng được khởi đầu chính từ đại nguyện của ngài.