Roedd yr ymwelwyr yn edrych yn gyfforddus wrth amddiffyn eu mantais yn dilyn cais Shane Williams wedi 60 munud a thair gôl gosb Dan Biggar.
Ond methodd Biggar ddwy gic eithaf rhwydd at y pyst - gan ychwanegu at y ddau y methodd yn yr hanner cyntaf - a manteisiodd y tîm cartref i'r eithaf wrth i Jonny Wilkinson greu cais i Paul Sackey.
Pwynt bonws am golli o fewn saith pwynt oedd gwobr y Gweilch, ond fe ddylent wedi dychwelyd adref gyda llawer iawn mwy.
Y Gweilch wedi cael gwers galed, medd Shane Williams
Gwelwyd digon o ymdrech ac ambell i dacl ffyrnig yn yr hanner cyntaf yn Stade Felix-Mayol, ond prin iawn oedd y bylchu a'r chwarae creadigol.
Daeth chwiban y dyfarnwr yn fwyfwy amlwg wrth i'r hanner fynd yn ei flaen, gyda throseddu yn ardal y dacl yn amharu ar unrhyw obaith i weld y gêm yn llifo.
Ciciau at y pyst oedd yr unig opsiwn am bwyntiau, gyda Biggar a Wilkinson yn llwyddo dwywaith ond yn methu dwywaith hefyd.
Methiant hefyd fu ymdrech y ddau mewn safleoedd addawol gyda chiciau adlam.
Roedd hi'n 9-9 wedi 13 munud o'r ail hanner wrth i Wilkinson a Biggar ychwanegu tri phwynt yr un arall, ac yna daeth y fflach o ysbrydoliaeth i roi'r ymwelwyr mewn sefyllfa gref gyda 20 munud i fynd.
Roedd hi'n edrych fod y Gweilch wedi gwastraffu safle ymosodol dda ger llinell gais Toulon wrth i'r bêl gael ei tharo yn ôl at y llinell 22, ond llwyddodd Huw Bennet i fachu'r bêl rydd a sefydlu ryc.
Ac o'r ryc yna, gwelodd Williams fod neb yn gwylio'r ochr dywyll gan gynnig ffordd glir at y llinell gais lawr yr asgell chwith.
Methodd Biggar gyda'r trosiad, a gwastraffodd gyfle arall i ymestyn y fantais o'r un lle dau funud yn ddiweddarach.
Roedd y bwlch i lawr i ddau bwynt pan lwyddodd Wilkinson gyda'i bedwaredd gôl gosb, ac yna daeth y cais i dorri calonnau'r Gweilch.
Cic ddibwys arall roddodd y meddiant yn ôl i Toulon, ac o'r diwedd gwelwyd ychydig o awch yn ymosod y Ffrancwyr.
Roedd amddiffyn y Gweilch wedi ei ymestyn am y tro cyntaf i'r gêm, a doedd neb am ddal Sackey wrth iddo wibio lawr yr asgell dde wedi pas hir Wilkinson.
Coronodd y mewnwr y cyfan gyda throsiad o'r ffin, a dau funud yn ddiweddarach roedd y fuddugoliaeth yn ddiogel wrth i'r dyfarnwr ddefnyddio ei chwiban am y tro olaf.
Toulon: R Lamont; P Sackey, M Kefu, G Messina, B Lapeyre; J Wilkinson, M Henjak; S Taumoepeau, J Orioli, D Kubriashvili, D Schofield, C Samson, O Missoup, G Smith, J Fernandez Lobbe (capt).
Eilyddion: M Ivaldi, B Basteres, M Merabet, T Sourice, T May, C Marienval, L Magnaval, J Suta.
Gweilch: Lee Byrne; Tommy Bowe, Andrew Bishop, James Hook, Shane Williams; Dan Biggar, Mike Phillips; Paul James, Richard Hibbard, Adam Jones, Ian Gough, Alun Wyn Jones (capt), Jerry Collins, Marty Holah, Jonathan Thomas.
Eilyddion: Huw Bennett, Ryan Bevington, Craig Mitchell, Ryan Jones, Justin Tipuric, Jamie Nutbrown, Gareth Owen, Nikki Walker.