Размеры сосуда подразумеваются достаточно большими, и, к тому же, вам никто не сказал что сосуд прозрачный.  
К задаче. По закону преломления лучи, выходящие из воды, будут рассеиваться. Если рассматривать лучи. Удаляясь от центра, то преломленный луч в какой-то момент "ляжет" на поверхность воды, т. Е. Не пойдёт наверх. Именно это удаление от центра необходимо найти. Вот вкратце философия данной задачи.  
Ввод обозначений. h - глубина, на которой находится источник света. r - искомый радиус диска, то есть такое расстояние на поверхности воды от центра, на котором преломленный луч ложится на поверхность. a (альфа) - угол падения, т. Е. Угол между лучём входящим в поверхность раздела двух сред и нормалью к этой поверхности. b (бета) - угол между направлением выходящего луча и нормалью к поверхности воды.  
Запишем, что h=0.4 м, b=0. Также для удобства определим n_a - показатель преломления воздуха, n_w - показатель преломления воды.  
Решение.  
По закону преломления запишем sin(a)/sin(b)=n_w/n_a. (*) 
Если сделать правильный рисунок, нетрудно видеть, что sin(a)=r/sqrt(h^2+r^2). 
sin(b)=1, т. К. b=pi/2. 
Подставляя эти синусы в уравнение (*), получаем уравнение, решив которое относительно r, найдём ответ.