Wartość oczekiwana:

xi to wygrana, pi to prawdopodobieństwo tej wygranej.
Prawdopodobieństwo łatwo policzyć. Np. prawd. wygrania 40zł jest równe prawd. wyrzucenia szóstki (czyli (1,5), (2,4), (3,3), (4,2), (5,1) - 5 przypadków). Wszystkich możliwych kombinacji jest 6^2, czyli 36. Prawdopodobieństwo wygrania 40zł wynosi zatem 5/36. Tak samo obliczasz pozostałe przypadki.
Robisz tabelkę:
xi | -10 | 10 | 15 | 40
---+-------+------+-------+------
pi | 15/36 | 2/36 | 14/36 | 5/36
No i teraz obliczasz z tego pierwszego wzoru:
EX = (-10)*15/36 + 10*2/36 + 15*14/36 + 40*5/36 = 70/9
Bardzo możliwe, że popełniłem gdzieś błąd obliczeniowy, więc sprawdź.
I nie wiem, czy dane zadania są dobre (te (5+10)ZL dałem jako 15zł). Ogólnie wychodzi, że warto grać w taką grę. Prawdopodobieństwa wychodzą też "nietypowe" dla danej wygranej. To znaczy logiczne jest, że wygrana większej ilości kasy powinna być mniej prawdopodobna, a tutaj tak nie jest. Ale zakładam, że dane są poprawne.