この方法を思いついた最初の問題は、 https://arxiv.org/abs/math/9508209 で見かけた問題であった。 振り返れば、A,Dが直線BCに対して反対側にあったからこそ思いつけた手法であったように思う。
△ABCの外心Pをとり、△DBCの外心Qをとる。
AP,BP,CP に△BQCを縮小した底辺を貼り付ける
BQ,CQ,DQ に△BPCを縮小した底辺を貼り付ける
そうすると小さい二等辺三角形が2種類できるが、
二等辺をなす辺の長さは、2種類の間で一致することが分かる。
そうして、AからDに至る「同じ長さからなる8本の折れ線」ができる。
しかも、それらの折れ線の向きは全て分かっている。
従って既に分かっている角度を同じ長さで8個合成した結果の角度を求める問題に帰着する。
今後角度をベクトルBCに対する偏角として記述することにする。
8本の折れ線の偏角は-120,-140,-160,-140,-40,20,-100,-160度である。
今回の場合は行き当たりばったりではあるが次のように考察して解決した：
(20,-40,-100,-160,-160),(-140,-140),(-120) とまとめて
・20,-100 と続けて進むことは -40 と進むことと同等
・-40,-160 と続けて進むことは -100 と進むことと同等
従って(-100,-100),(-140,-140),(-120) と整理される
よって求める方向が -120 であることが判明した
8個の折れ線として考察したが、そのうち2つは最初の角度によらずちょうど打ち消し合う。 先の図でいうと、Pから左にでる線と、Qに左から入る線が実は平行になる。 それを最初から省くために、その後からは、次のように作図を記述した：
「△ABCの外心Pをとり、△DBCの外心Qをとり、△BPQの外心Rをとる。
△RBP≡△EPA、△RBQ≡△FQDとなるような点E,Fをとる」
（これが「外心3つ法」と命名した由来となる）
そうすると、AE,EP,PR,RQ,QF,FDという(8本ではなく)6本からなる同じ長さの折れ線を得る。
その合成の結果がなす角度を求める問題に帰着するのである。
折れ線のBCに対する偏角はその都度求めると以外に手間がかかるので一般の場合の計算式を与えておく
BCに対するBA,CA,BD,CAの偏角をこの順にa,b,c,dとおく。
(今回の図ではa=40,b=100,c=-70,d=-150ということになる。)
このとき、AE,EP,PR,RQ,QR,FDの偏角はこの順で
[a+b-c+d+180, a+b+c-d, a-b-c+d, -a+b+c-d+180, a-b+c+d+180, -a+b+c+d] で与えられる。
※EをAPのどちら側にとるかによって最初の2つは入れ替わり得る。最後の2つも同様。
※△BPQの外心の代わりに△CPQの外心をとった場合は真ん中の2つが入れ替わる。
※図によっては「負の長さ」の効果ですべての偏角が180度ずれることがあり得る。
この折れ線の合成方向を明らかにすれば良いのであるが、先の例では行き当たりばったりだった。
後で5つの例を挙げるが、最初の例も同様にやや行き当たりばったりでやっている。
その後に見つけた機械的に示す手順があって、残りの4つの例ではそれを使っている。
複素数を使って記述する。 z=exp(2πi/360) とおいて、既知のa[1]〜a[6]および既知のNに対して、 F=Σza[k]=za[1]+za[2]+za[3]+za[4]+za[5]+za[6] が zN の実数倍であることを示すのが目標になる。 Σza[k]-N が実数であること、 あるいは Σza[k]-N+90 が純虚数であることと同値であるから、 Σza[k]-N+90 + Σz-(a[k]-N+90) = 0 を示すことに帰着する。 そうすると冒頭で紹介したように、12個の1の原始n乗根の和が0になることを示すことに帰着する。 これはすでに先行する文献でパターンが挙げつくされているから可能である。 念のため、もう1つ別の視点も紹介する。 「z=exp(2πi/360)とおく。zの多項式F(z)が0になるならば、 F(z) = (1+z^120+z^240)*A(z) + (1+z^72+z^144+z^216+z^288)*B(z) + (1+z^180)*C(z) を満たす多項式A(z),B(z),C(z)が存在する。」 この変形により、F(z)が実際に0であることを納得できるだけではなく、作図への還元も得られる。 つまり、a[k]が全て整数なら、12個の折れ線を補助線を付け加えつつうまく並べ変えれば、正三角形と正五角形の組み合わせにできる ということである。（a[k]に1/7のような数が現れるなら正七角形が必要となるだろう） 説明： F(z)は、zの最小多項式である(z^96+z^84-z^60-z^48-z^36+z^12+1)で割り切れる。 そして、(1+z^120+z^240),(1+z^72+z^144+z^216+z^288),(1+z^180)の最大公約因子が(z^96+z^84-z^60-z^48-z^36+z^12+1)なのである。 このことはk次円分多項式をΦ[k]と書くと円分多項式の視点で次のように説明される： 1+z^120+z^240 = (z^360-1)/(z^120-1) = Φ[k] [kは120の約数ではない360の約数] 1+z^72+z^144+z^216+z^288 = Φ[k] [kは72の約数ではない360の約数] 1+z^180 = Φ[k] [kは180の約数ではない360の約数] 3つに共通するkは360だけである。 整数論の基本的な性質に「x,yの公約数をdとするとax+by=dとなる整数a,b」が存在する、というのがある。 これは「整数環がユークリッド整域であり、従って単項イデアル整域である」という事実を反映している。 個数を増やして「x,y,zの最大公約数をdとするとax+by+cz=dとなる整数a,b,cが存在する」というふうに拡張できる。 一方で1変数多項式環もユークリッド整域であり、従って単項イデアル整域であるから、同様の事実が成り立つのである。
いくつかの例（最後の例が一番意図を伝えやすい例になっていると思う。） ・http://www.gensu.co.jp/saito/challenge/q36.html 【月刊「現代数学」幾何大王からの挑戦状】
この方法を最初に応用した例である。
計算式ではa=38+46,b=180-22,c=46,d=180-22-48度の場合である。
[図のように]
△ABC の外心 P, △DBC の外心 Q, △PQC の外心 R をとる
△PRC ≡ △PSA, △QRC ≡ △DTQ となる S,T をとる
・RQT は 正三角形となる
SPを1辺とする正五角形SPUVW をかく
・PURは正三角形となる
DTを1辺とする正三角形DTX、平行四辺形URTYをかく
・折れ線 ASWV と 折れ線 UYTX は合同となる
・DX // VU 従って DXUVは平行四辺形となる
△UYX≡DS'V となるようにS'をとる
従って △ASV≡DS'Vでもあり、SADS'は等脚台形となる。
この等脚台形の内角を知ることができて解決する。
[角度検証]
RPC は底角26度の二等辺三角形
RQC は底角16度の二等辺三角形
∠CQD = 92度, ∠RQT=92-16-16=60度 (→RQTは正三角形)
∠RPS = ∠CPA = 168度, ∠RPU=168-108= 60度 (→PURは正三角形)
∠UYT = ∠URT = ∠PRQ = 20度
∠ASP = 180-26*2 = 128度, ∠ASW = 128 - 108 = 20度
∠YTX = 360-(180-20)-∠RTX = 108度 (→折れ線の合同)
∠VUY = 360-(180-20) - 60 - 108 = 32度
DXとUYがなす角度 = DXとRTがなす角度
= ∠RTX-60 = 360-(180-16*2)-60-60-60=32度 (DX//VU)
∠SVU=72度, ∠YXD = 60-36=24度, よって∠SVS'=72+24=96度
∠ASS'=20+36+(180-96)/2 = 98度, よって∠SAD=82度
∠BAS=68-26=42度 から ∠ADB = 180-38-42-82 = 18度
[裏でやった計算]
AS,SP,PR,RQ,QT,TD の BC に対する偏角は -54,-2,10,170,50,82度である。
これの合成が28度であることを示すのが目標である。
私は上記で紹介した機械的な方針はまだ見つけていなくて次のような別の方針を使った。
z=exp(2πi/360) とおいて
F = z^(-54)+z^(-2)+z^10+z^170+z^50+z^82 を考察する。
zの最小多項式は96次であるからzの指数を 28±48以内になるように変形した：
g = z^28*(-z^42-z^38+z^22+z^18+z^6+1/z^6+1/z^18+1/z^22-1/z^38-1/z^42) ・・・★
その差をとって
h = z^170+z^82+z^70+z^66-z^46-z^34-z^22-z^6+1/z^2+1/z^10+1/z^14+1/z^54 = 0
を幾何的に示すことを考えた。負の項は指数に180を足すことで正に直して：
h = z^226+z^214+z^202+z^186+z^170+z^82+z^70+z^66+1/z^2+1/z^10+1/z^14+1/z^54 = 0
次のように（行き当たりばったりで）整理できた。
z^170+1/z^10 = 0
z^186+z^66+1/z^54 = 0 (正三角形)
(z^286)+z^214+(z^142)+z^70+1/z^2 = 0 (正五角形)
z^226+(z^106)+1/z^14 = 0 (正三角形)
(z^322)+z^202+z^82 = 0 (正三角形)
(括弧で括った4項は新しく追加した項であり2つずつ打ち消し合う。)
この正三角形や正五角形によって、折れ線を変形させることで、
折れ線の偏角を★を参考に偏角28度を中心に均等になるようにすれば、
合成が偏角28度であることが言える、という作戦である。
仕組みとしては正五角形SPUVW,正三角形UPR,RQT,TDXを利用して
折れ線を AS,SW,WV,VU,UR,RT,TX,XD と変形して、
ASとRT, SWとUR, WVとTX が偏角28度を作るペアであり、VUとXDが打ち消し合う。
これを上記の説明では平行四辺形で適宜並べ変えつつ、
UY//S'DとなるS'をとってSADS'が等脚台形になるという形で説明している。
・上記の知恵ノートに対して、ウェブサイト著者さんからコメントがあり、 「Rigbyが初等幾何で証明できなかった問題群」のうちもう片方として提示された問題
計算式でa=18, b=180-24, c=144/7, d=180-450/7 の場合である。
∠ABD=18度、∠DBC=144/7度、∠ACB=24度、∠DCA=450/7度のとき
∠ADB=90/7度を示す。
[図のように]
△ABCの外心P, △DBCの外心T, △BPQの外心Rをとる
△ASP≡△PRB, △DTQ≡△QRB となる S,Tをとる
PRを1辺とする星型（正五角形の対角線） P-R-R2-R3-R4 をかく
U,V､Wをとって正七角形 R2-R-Q-T-U-V-W がかける
直線R4-U を対称軸にして 折れ線P-S-A, U-T-Dを
折り返したものをそれぞれ R3-S'-A', U-V-D'とおく
またR4-R3-X, R4-P-Y が正三角形となるようなX,Yをとる
SP//TU, AS//X-R4, X-R3//VD' 等の平行が成り立つ
A-S-P-Y-R4-X-R3-S'-A' の折れ線と D-T-U-V-D'の折れ線が同等であることが確認できる。（古典的に示すなら平行移動と合同を繰り返す）
従ってAD//A'D' 従って AD//R4-U
R4-U の偏角は既知であるので解決する。
[背景計算]
zを1の原始420乗根として
f=-z^91+1/z^75-1/z^63+z^45+1/z^15+z^49が実数であることを示すことになる
先の問題では f = g+(gの共役) と変形することで示したが
f-(fの共役) = 0 を示す方がやりやすいことに気がついた：
すなわち f'=-1/z^91+z^75-z^63+1/z^45+z^15+1/z^49とおいて
f-f'=0であることを示せば良い
指数が7の倍数でないところを正七角形で表現すると指数が7の倍数の項が残り
指数が3の倍数でない所を正三角形で表現すると指数が21の倍数の項が残り
残りを正五角形で表現して以下を得た：
f-f' =
-(z^75-z^45+z^15-1/z^15+1/z^45-1/z^75+1/z^105)
+(z^49-1/z^21+1/z^91)-(z^91-z^21+1/z^49)
+(z^63-z^21+1/z^21-1/z^63+1/z^105)
これをもとに上記の折れ線を構成した。
・https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q11172997976
計算式でa=6,b=24,c=-12,d=-42度の場合である。
△ABDの外心をP, △CBDの外心をQ, △PQDの外心をR とおく
△RQD≡△SCQとなるようなSをとる
(△PQDが正三角形なのでもう片方の補助点を省略できる)
AP,PR,RQ,QS,SCはAからCに至る同じ長さの折れ線をなし、
BDに対する偏角は順に120,192,312,288,144度である。
これの合成が、BDに垂直であることを示すのが目標である。
z=cos(12度)+i*sin(12度)とおいて
F=z^10+z^19+z^26+z^24+z^12 が純虚数であることを示す。
共役F~ = z^20+z^11+z^4+z^6+z^18 と足して0になることを示す。
z^10+z^20=1,（正三角形）
z^6+z^12+z^18+z^24=-1（正五角形）
z^4+z^19=0
z^11+z^26=0
によって示される。
作図に還元するには、次のように考えれば良い。
ベクトルAP,PR,RQ,QS,SCを左右(BD方向)に反転したベクトルをap,pr,rq,qs,scと呼ぶ。
「PR,rqが反対方向、pr,RQが反対方向、
AP,apが正三角形を構成、QS,qs,SC,scが正五角形を構成」という対応である
これを幾何的に説明すれば良い。
私は次のような説明とした：
作図よりPQはBDに垂直で△BQDは正三角形になる。
P,Qを通り、BDに平行な直線PX,QYをひいて、
AP=AX,CQ=CYとなるようなX,Yをとる
APXは正三角形となり
CQYは正五角形の辺と対角線のなす三角形となる
PXとQYはどちらも赤の長さを持つ
このことからACとBDが垂直であることがわかるので解決する。
・https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q12172997897
計算式でa=78,b=180-78,c=-6,d=-12の場合である。
△ABDの外心をP, △CBDの外心をQ, △PQDの外心をR とおく
△RPD≡△EAP, △RDQ≡△FCQ となる点E,Fをとる
AE,EP,PR,RQ,QF,FCが同じ長さのAからCに至る折れ線であるが
今回は△PRQが正三角形となるのでPR,RQをPQにまとめることができる
BDに対する偏角は、186,354,270,138,6度である
この合成が300度の方向になるのを示すのが目標である。
AEとFCが反対方向で打ち消し合うのでEP,PQ,QF(354,270,138度)が残る。
300度の方向に反転させたベクトルをep,pq,qfとおくとそれらの偏角は66,150,282度であり
(偏角xのベクトルを300度の方向に反転させるとは、f(x)=-(x-300-90)+300+90 をとる意図である)
ep,QF,(210度),qf,EPが正五角形をなし、PQ,pq,(30度)が正三角形をなすことで合計が0となる。
これを私は次のような説明とした：
・EA//FC、よってAEFCは平行四辺形
・∠EPR=36度、FQとEPのなす角度も36度
そこでEF=GQ=AC,EF//GQ//ACとなる点GをとるとE,R,G,Pは正五角形の頂点の4つをなす
よって点GはPRの垂直二等分線上にある。
一方でQもPRの垂直二等分線上にあることからGQ⊥PRがわかり、
従って設定よりGQの偏角が分かり、設定よりそれはACの偏角でもあるので解決する。
・https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q12173056292 (※https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q14174849064で訂正) 計算式でa=34,b=180-44,c=24,d=180-18-44の場合である。計算式では180度ずれた偏角となる。
折れ線AE,EP,PR,RQ,QF,FDの偏角は-54,-46,170,10,38,66である。
合成が8度の方向であることを示したいので、
f(x)=-(x-8-90)+8+90によって折り返したベクトルae,ep,pr,rq,qf,fdを考えて
それらの偏角は 250,242,26,186,158,130度となる。
AE[1],FD[6],rq[5'] が正三角形
ae[1]',fd[6'],RQ[5] が正三角形
QF[4],qf[4'],(278度) が正三角形
EP[2],PR[3],ep[2'],pr[3'],(98度)が正五角形
を構成することで合計が0になることが分かる。
(番号は図と対応している。上記の折れ線の順番とは4と5が逆。)
これを踏まえて私は次のような説明とした：
平行四辺形AEGDをとる。平行四辺形RQFHをとる。
FGは偏角6度、HFは偏角10度、（△DFGは正三角形なのでFG=HFであり）よってHGは偏角8度
∠EPRは36度であり星型EPRSTを描く。
ETの垂直二等分線とRHのなす角が30度であることから
ETの垂直二等分線に関してHと線対称な点をIとすると
TEとIHがともに偏角98度で平行となる
よってTEHIは長方形でEHは偏角8度。
先と合わせて EGは偏角8度であり設定よりこれはADの偏角でもあるので解決する。
このような角度の問題を複素数の視点で考えた時に思い浮かんだ話題で、ちょっと別の話 ＊共役性 整数係数多項式F(x)があって、x=exp(10πi/360)のときF(x)=0 ならば、 360との最大公約数が10になる任意の角度A(例えばA=70)に対してもx=exp(Aπi/360)に対してF(x)=0となる。 ∵最小多項式が共通なので そうすると、全く異なる図の間で、「共役」な仕組みが成り立つことを観察することができる：
左の図はhttp://www.himawarinet.ne.jp/~rinda/newpage79.htmlの7番目の
（１０，１０，３０，１０）の問題であり
右の図は上記の例のうち3番目に紹介した問題である。
偏角の計算式では左がa=20,b=140,c=10,d=150、右がa=40,b=100,c=-70,d=-150度である。
左の角度を11倍して360で割った余りをとると、220,100,110,210となる。
偏角が180度ずれる「負の長さ」効果があるが、右の図の角度を与えている。
そういうわけで、次のように「共役」な仕組みを見い出すことができる。
現れる角度は常に「11倍」で対応していることを指摘しておく。
（左の問題に対する上記リンク先に有る方法）
直線AB上に∠DEA＝10度となるEおよび△DBCの外心Fをとる
∠BFE=2*∠BCD=60度より△BFDは正三角形
一方△DBEは二等辺三角形だから DE=DB=DF が言えて
点Dは△BFEの外心であり∠DFC=2*∠DBC=20度
∠DFE=(180-∠FDE)/2=(180-2*∠FBE)/2=20度
よってF、C、Eは同一直線上
一方∠ACD=∠AED=10度よりA,D,C,Eは共円で
以上より ∠CAD=∠CED=∠FED=20度を得る
（右の問題に対する「共役」な方法）
直線AB上に∠DEA=70度となるEおよび△DBCの外心Fをとる
∠BFD=2∠BCD=60度より△BFDは正三角形
一方△DBEは二等辺三角形だから DE=DB=DF が言えて
点Dは△BFEの外心であり∠DFC=2*∠DBC=140度
∠DFE=(180-∠FDE)/2=(180-(360-2*∠FBE))/2=40度
よってF,C,Eは同一直線上
一方∠ACD+∠AED=180度よりA,E,D,Cは共円で
以上より ∠CAD=∠CED=∠FED=40度を得る
＊非可解性
「二等辺三角形ABCの辺AB上にCB=CDとなるDをとって
辺AC上にAD=CEとなるEをとったとき
∠CDE=50度が成り立つ。∠Aを求めよ」（左図：答えは40度）
という問題が見かけられる。
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q14151297514
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q12146397742
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q13144642033
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1251895847
とりあえずこの問題の解決策としては、
3番目のリンク先のyao_maasaさんが示しているように、
Aを大きくすれば∠CDEは小さくなるので
「A<40゜⇒∠CDE>50゜、A>40゜⇒∠CDE<50゜」を利用して、
「∠CDE=50゜⇒A=40゜」ではなく「A=40゜⇒∠CDE=50゜」を示すことで解決する。
そちらの示し方はyao_maasaさんも与えていますし、2番目のリンク先に私も与えている。
実は私はこの問題は、「初等的かつ直接的には解けない」と思っている。
ラングレーの問題と決定的に違うのは、
「既知の角度で作図した結果現れる角度を求める」のではなくて
「未知の角度で作図した結果が与えられた時に未知の角度を求める」形をしている所である。
もう１つ重要なポイントとしては、
D,EをABやACの延長にとることを許すと右の図に示したようなもう１つの解があることに注目した。
このとき∠Aは120度に近いが120度ではなく、その角度は"非初等的な角度"である（有理数ではない）。
まず、「初等的かつ直接的には解けない」問題があり得ることを直観的にイメージする例えとして：
例えば1つの辺を未知としてその長さをXとする
X^5-5X^2+8X なる辺の長さを作図して
それが4に等しいときにXを求めよ（X=1がそれを満たす）
という問題を幾何的な問題として作ることができるだろう。
そして二等辺三角形を作れば角度の問題にもできるだろう。
（直接実行すると不自然で人工的な問題になってしまうが）
方程式を(X-1)で割ることに対応する操作は幾何的にできるかもしれないが、
しかし X^4-5X+8≠0 を示す必要が残り、
それに相当することを初等幾何でやるのは難しいんじゃないかな・・
という考察から、初等的操作で解けるように思えない（根拠は十分でない）のである。
今回の問題に対してもそういうイメージを持っていて、
実際に強引に複素数を使って方程式を立てた所、30次方程式を得て
それは6次と24次の多項式の積に因数分解されて、6次の方が目的の答えを与える一方、
24次のほうが、上記で紹介した非初等的な角度に相当する答えを与える状況だった。
従って代数的に考察する限りは、24次のほうの方程式が与えられた位置関係に合うような
解を与えないことを示す必要が残るわけである。
そしてここがポイントであるが、
「初等的・直接的な操作とは、奥を探れば代数的な操作である」と思っている
補助線を引く（既知の点から既知の長さの直線を作成する）とか
交点を取る（既知の直線の交点を得る）のは代数的な操作と納得して良いだろう。
他に「二等辺三角形の底角は等しい」とか「円周角の定理」など初等的操作は多くある。
用い得る初等的操作すべてが「代数的」な操作であることは、私は確認できていない。
しかしX^4-5X+8≠0を示すことができるような代物はないように思っている。
---
もちろん方法を代数的なものに制限しなければ
X^5-5X^2+8X の場合はそれが単調増加であることを示すのが１つの解決策であって、
今回の問題に対してもそれと同じような立場で、
「Aを大きくすれば∠CDEは小さくなる」ということを示したのが
yao_maasaさんが既に提示した１つの解決策になったわけだと思っている。