Získal svou první významnou filmovou roli coby Peter ve filmu společnosti Universal Pictures Kopačky, ke kterému také napsal scénář. Snímek měl premiéru v roce 2008 v produkci Judda Apatowa a Shauny Robertson pod režijním vedením Nicholase Stollera a vydělal po světě přes 100 milionů dolarů. V červnu 2007 byl Segel přizván Apatowem k tomu, aby se podílel na obrovském úspěchu komedie Zbouchnutá se Sethem Rogenem, Katherine Heigl, Paulem Ruddem a Leslie Mannem. Snímek jen v USA utržil přes 140 milionů dolarů a získal People's Choice Award v kategorii Nejoblíbenější filmová komedie. V roce 2009 se Segel připojil k Ruddovi ve filmu společnosti Paramount Kámoš k pohledání. Scenáristou, režisérem i producentem filmu byl John Hamburg. S Nicholasem Stollerem obnovil Segel spolupráci v roce 2010, kdy napsal scénář k filmu Dostaň ho tam, na kterém se také podílel jako koproducent. Jednalo se o film, který vycházel z příběhu snímku Kopačky a znovu se v něm objevili Jonah Hill a Russel Brand. Film utržil po světě 88.3 milionu dolarů a získal cenu Teen Choice Award. Mezi další Segelovy celovečerní filmy patří například Ulejváci, The New Jersey Turnpikes, SLC Punk!, Poslední mejdan a Mrtvý na univerzitě. Na televizních obrazovkách je Segel k vidění v roli Marshalla po boku Alyson Hannigan, Joshe Radnora a Neila Patricka Harrise v úspěšném komediálním seriálu Jak jsem poznal vaši matku. Tento seriál byl magazínem Time označen jako jeden z nejlepších seriálů roku 2005. Do srdcí diváků se ale poprvé zapsal rolí Erica v seriálu Kolej, základ života společnosti FOX v produkce Judda Apatowa.