ପରିଚୟ

ଆପଣ ଭାବୁଥିବେ GREK3 ପ୍ରି-ତାଲିମପ୍ରାପ୍ତ ମଡେଲଗୁଡିକର "ଶେଷ ପଏଣ୍ଟ" ହେବ କି?

ଏଲନ୍ ମସ୍କ ଏବଂ ଜୟୀଙ୍କ ଆନୁଷ୍ଠାନିକ ଭାବରେ ଗ୍ରାସର ସର୍ବଶେଷ ସଂସ୍କରଣ ଲାଇଭଷ୍ଟ୍ରିମ୍ ସମୟରେ GREK3 ର ସର୍ବଶେଷ ସଂସ୍କରଣ ଆରମ୍ଭ କରିଥିଲେ | ଏହି ଘଟଣା ପୂର୍ବରୁ, ବହୁ ପରିମାଣର ସମ୍ବନ୍ଧୀୟ ସୂଚନା, ମୁସ୍କୀର 24/7 ପ୍ରୋସେସର ହିସାବ ସହିତ ଯୋଡି ହୋଇଥିବା ସାମଗ୍ରିକ ହାଇପ୍ରୋଫରେ ବ shill େଇ | ଏକ ସପ୍ତାହ ପୂର୍ବରୁ, ମୁଁ ଗଭୀର ସିଲେକ୍ଟରେ ମନ୍ତବ୍ୟ ଦେବାବେଳେ ଏକ ଲାଇଭ୍ ଷ୍ଟ୍ରୋମ୍ ସମୟରେ କହିଥାଏ, "xii ଏକ ଭଲ AI ମଡେଲ୍ ଲଞ୍ଚ କରିବାକୁ ଯାଉଛି।" ଉପସ୍ଥାପିତ ଲାଇଭଙ୍କ ତଥ୍ୟରୁ, GREK3 ଷ୍ଟାସେକ୍ସର ମେସ୍ ମିଶନମାନଙ୍କ ପାଇଁ ବେକେ ମାର୍କ ସହିତ ତିନୋଟି ସାମ୍ପ୍ରତିକ ମେଟ୍ୟାଚମାର୍କ, VEST ର ଗଣନା କାର୍ଯ୍ୟଗୁଡ଼ିକ ସହିତ ଜଡିତ ଗଣମାଧ୍ୟମର ସଂଖ୍ୟାଗୁଡ଼ିକ ମଧ୍ୟରେ "ଡ୍ରାଇଭର କାର୍ଯ୍ୟ ପାଇଁ ବ୍ୟବହୃତ ହେଉଥିବା ଗଣମାଧ୍ୟମ ସ୍ତର ପାଇଁ ବ୍ୟବହୃତ ହେବ |" ତଥାପି, ଏଗୁଡିକ ବର୍ତ୍ତମାନ କେବଳ ମୁସ୍କର ଧାରଣା | ଲଞ୍ଚ ପରେ, ମୁଁ GROK3 ର ଅତ୍ୟାଧୁନିକ ବିଟା ସଂସ୍କରଣ ପରୀକ୍ଷା କଲି ଏବଂ ବଡ଼ ମଡେଲଗୁଡିକ ପାଇଁ କ୍ଲାସିକ୍ କ ick ଶଳ ପ୍ରଶ୍ନ ପୋଷ୍ଟ କରିଛି: "ଯାହା ବଡ଼, 9.11 କିମ୍ବା 9.9?" ଦୁ regret ଖଦାୟକ, କ lit ଣସି ଯୋଗ୍ୟତା କିମ୍ବା ମାର୍କିଂ ବିନା, ତଥାକଥିତ ସ୍ମାର୍ଟ GROK3 ତଥାପି ଏହି ପ୍ରଶ୍ନର ଉତ୍ତର ଦେଇପାରିବ ନାହିଁ | GROK3 ପ୍ରଶ୍ନର ଅର୍ଥକୁ ସଠିକ୍ ଭାବରେ ଚିହ୍ନଟ କରିବାରେ ବିଫଳ ହେଲା |

ଏହି ପରୀକ୍ଷା ଶୀଘ୍ର ଅନେକ ସାଙ୍ଗମାନଙ୍କଠାରୁ ଯଥେଷ୍ଟ ଧ୍ୟାନ ଦେଇ, ଏବଂ ସହାୟକ ଭାବରେ ବିଭିନ୍ନ ସମାନ ପରୀକ୍ଷଣରେ ବିଦେଶରେ ରହିଥାଏ "କେଉଁ ବଲର ଲିଙ୍ଗୁଜ ଟାୱାରରୁ ପ୍ରଥମେ ଗିଙ୍ଗୁଛି?" ଏହିପରି, ସରଳ ପ୍ରଶ୍ନର ଉତ୍ତର ଦେବାକୁ ଜଣେ ପ୍ରତିଭା ଅନିଚ୍ଛା "ଭାବରେ କୁହାଯାଇଛି ବୋଲି କହିଛନ୍ତି।

GROK3 ଭଲ, କିନ୍ତୁ R1 କିମ୍ବା O1-ପ୍ରୋ ଅପେକ୍ଷା ଭଲ ନୁହେଁ |

କ୍ରମରେ ଅନେକ ସାଧାରଣ ଜ୍ଞାନ ପରୀକ୍ଷଣରେ GROK3 ଅଭିଜ୍ଞ "ବିଫଳତା" | ଜୟା ଲଞ୍ଚ୍ ଇଭ ଯୁସ୍ ସମୟରେ, ନିର୍ବାସନ ବର୍ଗ ପଥରୁ ଅକ୍ଷର ଶ୍ରେଣ୍ଡନ ଏବଂ ଇଫିଆକୁ ବିଶ୍ଳେଷଣ କରିବା ପାଇଁ GoRK3 ବ୍ୟବହାର କରି GoKS grek 3 ବ୍ୟବହାର କରି ଦାବି କରିଥାଏ, କିନ୍ତୁ GRK3 ଦ୍ୱାରା ପ୍ରଦତ୍ତ ଅଧିକାଂଶ ଉତ୍ତର ଭୁଲ ଥିଲା | ଲାଇଭଷ୍ଟ୍ରିମ୍ ସମୟରେ ମୂଷା ଏହି ସ୍ପଷ୍ଟ ଇସୁକୁ ଲକ୍ଷ୍ୟ କରିନାହିଁ |

ଏହି ଭୁଲ କେବଳ ଟ୍ୟାକିଂରେ ଏକ ବଦଳାଇବା "ପାଇଁ ମୂକତା ପାଇଁ ମକ୍ କରିବା ପାଇଁ ଅଧିକ ପ୍ରମାଣ ପ୍ରଦାନ କରାଯାଇ ନାହିଁ ଏବଂ ବ୍ୟବହାରିକ ପ୍ରୟୋଗଗୁଡ଼ିକରେ GROK3 ର ନିର୍ଭରଯୋଗ୍ୟତା ସମ୍ବନ୍ଧରେ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ଚିନ୍ତାଧାରାକୁ ବ raised ାଇଲା | ତେଣୁ ଏହିପରି "ପ୍ରତିଶ୍ରୁତି" ପାଇଁ ଏହାର ପ୍ରକୃତ କ୍ଷମତା "ପାଇଁ" ପ୍ରତିଯୋଗୀ, ଏହାର ବିଶ୍ୱସ୍ୟାତି ନିର୍ବେକନୀତ୍ୱରେ ଏହାର ବିଶ୍ୱସନୀୟତା, ମଙ୍ଗଳ ଅନୁସନ୍ଧାନ କାର୍ଯ୍ୟଗୁଡ଼ିକ, ସନ୍ଦେହରେ ରହିଥାଏ |

ସମ୍ପ୍ରତି, ପ୍ରତ୍ୟେକ ଅନେକ ପରୀକ୍ଷକ ଯେଉଁମାନେ ବିଦ୍ରୋହୀ ପର୍ଯ୍ୟନ୍ତ ପ୍ରବେଶ ପାଇଛନ୍ତି, ଏବଂ ଯେଉଁମାନେ ଗତକାଲି କିଛି ଘଣ୍ଟା ପାଇଁ ମଡେଲ କ୍ଷମତା ପରୀକ୍ଷା କରିଥିଲେ, ଯାହାଦ୍ୱାରା GREK3 ଭଲ, କିନ୍ତୁ ଏହା R1 କିମ୍ବା O1- ପ୍ରୋ ଅପେକ୍ଷା ଭଲ ନୁହେଁ। "

"ବାଧା ଦେବା" ଉପରେ ଏକ ଗୁରୁତର ଦୃଷ୍ଟିକୋଣ "

ପ୍ରକାଶନ ସମୟରେ ସରକାରୀ ଭାବରେ ଉପସ୍ଥାପିତ ପାଇପ୍ ରେ ଚାଟ 3 ରେ ଚାଟ୍ ବେସରରେ ଥିବା ଫିଲ୍ଟବର୍ମରେ ଦର୍ଶାଯାଇଥିଲା, କିନ୍ତୁ ଏହି ପରିଷ୍କାର ଗ୍ରାଫିକ୍ କ ques ଶଳରେ ବ୍ୟବହୃତ ହୋଇଥିଲା |

ପ୍ରକୃତ ମଡେଲ ସ୍କୋରିଂ ଫଳାଫଳରେ, GREK3 ଗଭୀରତା R1 ଏବଂ GPT-4.0 ଠାରୁ ମାତ୍ର 1-2% ଅଟେ, ଯାହା "କ equed ଣସି ଲକ୍ଷ୍ୟଯୋଗ୍ୟ ପାର୍ଥକ୍ୟ | GROK3 କେବଳ 1% -2% ଦ୍ୱାରା ଏହାର ଉତ୍ତରାଧିକାରୀ ଅତିକ୍ରମ କରେ |

ଯଦିଓ ଗ୍ରୋସ 3 ସର୍ବସାଧାରଣରେ ପ୍ରଚାର କରିଥିଲେ ସର୍ବସାଧାରଣରେ ସର୍ବସାଧାରଣ ପରୀକ୍ଷିତ ମଡେଲଗୁଡିକରୁ ଅଧିକ ସ୍କୋର କରିଛନ୍ତି: ସମଗ୍ର ପରେ, ଗ୍ରୋସିମୁଲେସନ୍ "ପାଇଁ ଜାଇ ପୂର୍ବରୁ ପୂର୍ବରୁ ସମାଲୋଚିତ ହୋଇଛନ୍ତି। ଯେହେତୁ ଲିଡବୋର୍ଡ ଦଣ୍ଡିତ ଉତ୍ତରର ଉତ୍ତର ଦ length ର୍ଘ୍ୟର ଉତ୍ତର ଦ length ର୍ଘ୍ୟକୁ ବହୁତ ହ୍ରାସ ପାଇଲା, "ଉଚ୍ଚ ସ୍କୋରିଂ କିନ୍ତୁ ସ୍ୱଳ୍ପ ଦକ୍ଷତା |"

ଲିଭିଡବୋର୍ଡ "ମନିପୁଲେସନ୍" କିମ୍ବା ଡିଜାଇନ୍ କ icks ଶଳ ମାଧ୍ୟମରେ, ସେମାନେ ମଡେଲ ସାମର୍ଥ୍ୟରେ "ନେତୃତ୍ୱ" ସହିତ ଜୟ ଏବଂ ମୁସ୍କର ଅବସାନଙ୍କୁ ପ୍ରକାଶ କରନ୍ତି | ମୂଷା ଏହି ମାର୍ଜିନ ପାଇଁ ଏକ ଖାଲ ମୂଲ୍ୟ ପ୍ରଦାନ କଲା: ଲଞ୍ଚ ସମୟରେ, ଲଞ୍ଚ ସମୟରେ ସେ 200,000 H100 gpus ବ୍ୟବହାର କରି ଗର୍ବ କଲେ (100,000 ରୁ ଅଧିକ "ଦାବି କରିବା | ଏହା ଅନ୍ୟ କେତେକଙ୍କୁ ବିଶ୍ believe ାସ କରିବାକୁ ଆଗେଇଲା ଯେ ଏହା GPU ଶିଳ୍ପରେ ଆଉ ଏକ ମହତ୍ତ୍ୱପୂର୍ଣ୍ଣ ଘନଙ୍କୁ ପ୍ରତିନିଧିତ୍ୱ କରେ ଏବଂ ସେକ୍ଟରରେ ଗଭୀରତମ ପ୍ରଭାବ "ମୂର୍ଖ" ଭାବରେ "| ଉଲ୍ଲେଖଯୋଗ୍ୟ, କେତେକ ବିଶ୍ believe ାସ କରନ୍ତି ଯେ କୋର୍ ଗଣନା ଶକ୍ତି ମଡେଲ ତାଲିମର ଭବିଷ୍ୟତ ହେବ |

ତଥାପି, କିଛି ଜାଲରେ 2000 H800 GPU ଉତ୍ପାଦନକୁ ଦୁଇ ମାସ ମଧ୍ୟରେ ଦୁଇ ମାସର ଖର୍ଚ୍ଚ ତୁଳନାରେ 2000 H800 GPU ବିଷୟରେ ତୁଳନା କରାଯାଏ, ଗଣନା କରିବା ସେହି s20 ଥର 263 ଗୁଣ ଯାହା V3 | ଗଭୀରତା v3, ଯାହା 1402 ପଏଣ୍ଟରେ ଅଛି, ଏବଂ GROK3 ମାତ୍ର 100 ପଏଣ୍ଟ ତଳେ ଅଛି | ଏହି ତଥ୍ୟର ମୁକ୍ତି ପରେ, "ବିଶ୍ world ର୍ଷା" ଭାବରେ "ବିଶ୍-ବାଣିଜ୍ୟ ମାର୍ଜିନ ଉପଯୋଗୀ ପ୍ରଭାବରେ ଅନେକ ହୃଦୟସ୍ପର୍ଶୀ ଭାବରେ ଅନୁଭବ କଲେ ଯେ ଶକ୍ତିଶାଳୀ ସାମରିକ ଉପଯୋଗିତା ପ୍ରଭାବ ପକାଇଥାଏ ଯେ ଶକ୍ତିଶାଳୀ କାର୍ଯ୍ୟଦକ୍ଷତା ହ୍ରାସ ଘଟାଇବା ଆରମ୍ଭ କରିଛି |

ଏପରିକି "ଉଚ୍ଚ ସ୍କୋରିଂ କିନ୍ତୁ ସ୍ୱଳ୍ପ ଦକ୍ଷତା, ବ୍ୟବହାର କରିବାକୁ X (ଟୁରୁଟ୍) ପ୍ଲାଟଫର୍ମରୁ x (ଟ୍ୱିଟର) ପ୍ଲାଟଫର୍ମରୁ ଉଚ୍ଚ-ଗୁଣାତ୍ମକ ପ୍ରଥମ-ପକ୍ଷ ତଥ୍ୟକୁ ବହୁ ଗୁଣଧର୍ମ ଥିଲା | ତଥାପି, ଗ୍ରୋକ୍ ତାଲିମ ତାଲିକାରେ, ଜେନକୁ ସ୍ୱାଭାବିକ ଭାବରେ ଥିବା "ଛାତ" ସାମ୍ନା କରିଥିଲେ ଯାହା ମଡେଲର ସାମର୍ଥ୍ୟର ମାର୍ଜିନ ଅପେକ୍ଷାକାରୀଙ୍କୁ ସ୍ୱୀକାର କରିଥାଏ |

GROK3 ଏବଂ M ମୂଖ୍ୟଗୁଡିକର ବିକାଶକାରୀମାନେ ଏହି ତଥ୍ୟଗୁଡିକ ବୁ understand ିବାକୁ ଏବଂ କେଉଁ ଶବ୍ଦକୁ ଗଭୀର ଭାବରେ ଚିହ୍ନଟ କରିଛନ୍ତି, ଯାହା ଦ୍ M ାରା ମୁସ୍କା କ୍ରମାଗତ ଭାବରେ ଏହା ହେଉଛି "ଏପର୍ଯ୍ୟନ୍ତ ବୋଟା" ଏବଂ ତାହା ଏକ ନୂତନ ସଂସ୍କରଣଗୁଡ଼ିକ ମୁକ୍ତ ହେବ ବୋଲି ଦର୍ଶାଇ "ହେଉଛି" ତଥାପି ବାଜି "ର ସମାନ ଭାବରେ ଉଲ୍ଲେଖ କରାଯାଇଛି | ମୂକ୍ ଗ୍ରୋଙ୍କ୍ ର ଡିସମାଉଣ୍ଟ ମ୍ୟାନେଜର ଭୂମିକାରେ ନିଆଯାଇଛି, ଉପଭୋକ୍ତାମାନେ ମନ୍ତବ୍ୟ ବିଭାଗରେ ପରିପୂର୍ଣ୍ଣ ବିଭିନ୍ନ ପ୍ରସଙ୍ଗରେ ଉପଭୋକ୍ତାମାନଙ୍କୁ ମତାମତ ପ୍ରଦାନ କରନ୍ତି | ସେ ପୃଥିବୀର ବିଭିନ୍ନ ଉତ୍ପାଦ ପରିଚାଳକ ହୋଇପାରନ୍ତି |

ତଥାପି, ଦିନେ ଏକ ଦିନ ମଧ୍ୟରେ, GPT-3 ରେ ଅଧିକ ଉପଲବ୍ଧ ଗଣତନ୍ତ୍ର ଉପଲବ୍ଧ | ଗୁଜବମାନେ ସୂଚିତ କରନ୍ତି ଯେ GPT-4.5 ର ପାରାମିଟର ଆକାର ମଧ୍ୟ ହୋଇପାରେ |

ମଡେଲ୍ ପାରାମିଟର ଆକାରରେ, ତାଲିମ ଖର୍ଚ୍ଚ ମଧ୍ୟ ସ୍କାଏରୋଗିଂ | GREK3 ର ଉପସ୍ଥିତି ସହିତ, GPT-4.5 ପରି ନିକଭେସର୍ଗୁଡ଼ିକ ଏବଂ ଅନ୍ୟମାନେ "ଜ୍ୱଳନ୍ତ ମୁଦି ଆକାର ଆପଣଙ୍କ ଦ୍ by ାରା" ନଷ୍ଟ କରିବା ଆବଶ୍ୟକ | ଏହି ମୁହକ୍ରସାରେ, ଓଲାଇରେ ଥିବା ପୂର୍ବତନ ବ scientists ଜ୍ଞାନିକ ପୂର୍ବରୁ ଶେଷରେ ନିର୍ଦ୍ଦିଷ୍ଟ କରାଯାଇଥିଲା, "ବଡ଼ ମଡେଲଗୁଡିକ ଚାଲୁଥିବା ପ୍ରକୃତ ମଡେଲଗୁଡିକ ଖୋଜିବାକୁ ପ୍ରଯୁଜ୍ୟ ବୋଲି କହି ପୁନ us ଚେଷ୍ଟା କରିଥଲା।

ଇଲିଆଙ୍କ ଦୃଷ୍ଟିକୋଣ ଶିଳ୍ପରେ ଆଲାର୍ମ ବଜାଇଛି | ସେ ଏପରି ଭାବରେ କାର୍ଯ୍ୟକ୍ଷମ ନୂତନ ତଥ୍ୟକୁ ଆସୁଥିବା ଅବମାନନା ପ୍ରତ୍ୟାହାର କରନ୍ତୁ, ଯେଉଁଠାରେ କାର୍ଯ୍ୟଦକ୍ଷତା ଡାଟା ଅଧିଗ୍ରହଣ ମାଧ୍ୟମରେ ବର୍ଜନ କରିବାକୁ ବାଧ୍ୟ ହୋଇପାରିବେ ନାହିଁ, ଜୀବାଶ୍ମ ଇଫେଲର ଶୋଷଣକୁ ଏହାକୁ ତୁଳନା କରି ପାରିବେ ନାହିଁ | ସେ ସୂଚାଇ ଦେଇଛନ୍ତି ଯେ "ଇଣ୍ଟରନେଟରେ ତେଲ, ମାନବ-ଉତ୍ପାଦିତ ବିଷୟବସ୍ତୁ ହେଉଛି ଏକ ସୀମିତ ଉତ୍ସ | ଆଣ୍ଟେସର ଭବିଷ୍ୟବାଣୀ, ପରବର୍ତ୍ତୀ ପି generation ଼ି ମଡେଲର ପରବର୍ତ୍ତୀ ପି generation ଼ି, ପୋଷ୍ଟ-ପ୍ରି-ଟ୍ରେନିଂରେ "ପ୍ରକୃତ ସ୍ aton କ୍ତିକ ମସ୍ତିଷ୍କ ସହିତ ସମାନ" |

ଆଜିର ପ୍ରି-ତାଲିମପ୍ରାପ୍ତ ମଡେଲ ପରି ଯାହା ମୁଖ୍ୟତ subded ଶିକ୍ଷିତ ମଡେଲ ବିଷୟବସ୍ତୁ ଉପରେ ନିର୍ଭର କରେ (ପୂର୍ବରୁ ଶିକ୍ଷିତ ମଡେଲ ବିଷୟବସ୍ତୁ ଉପରେ ଆଧାର କରି) ମାନବ ମସ୍ତିଷ୍କର "ଚିନ୍ତାଧାରା" ର ଏକ ଉପାୟରେ ସମସ୍ୟାର ସମାଧାନ ଏବଂ ପ୍ରତିଷ୍ଠା କରିବାକୁ ସକ୍ଷମ ହେବ | କେବଳ ମ basic ଳିକ ବୃତ୍ତିଗତ ସାହିତ୍ୟ ସହିତ ଏକ ମାନରେ ମ basic ଳିକ ପ୍ରଫେସନାଲ୍ ସାହିତ୍ୟରେ ମ basic ଳିକ ପ୍ରଫେସନାଲ୍ ସାହିତ୍ୟରେ ମ basic ଳିକ ତଥ୍ୟ ପଏଣ୍ଟ ଆବଶ୍ୟକ କରେ | ଏପରିକି ଯେତେବେଳେ ଶବ୍ଦ ସାମାନ୍ୟ ପରିବର୍ତ୍ତନ ହୁଏ, ଏହି ମ fundiaal ଳିକ ପ୍ରଶ୍ନ ସଠିକ୍ ଭାବରେ ବୁ understood ି ପାରିଲା ନାହିଁ: ଧରଣଟି ପ୍ରକୃତରେ ବୁଦ୍ଧିମାନ ଭାବରେ ପ୍ରକାଶ କରିନପାରେ: ପ୍ରବନ୍ଧର ପ୍ରାରମ୍ଭରେ ଉଲ୍ଲେଖ କରାଯାଇଥିବା ମ basic ଳିକ ସଠିକ୍ ପ୍ରଶ୍ନ ଏହି ଘଟଣାର ଏକ ସ୍ପଷ୍ଟ ଉଦାହରଣ ପ୍ରତିନିଧିତ୍ୱ ପ୍ରକାଶ କରିଛି ଏହି ଘଟଣାର ପ୍ରାରମ୍ଭରେ ଏହି ଘଟଣାର ଏକ ସ୍ପଷ୍ଟ ଉଦାହରଣ ପ୍ରତିନିଧିତ୍ୱ କରେ |

ଉପସଂହାର

ତଥାପି, ବାରଣ ଶକ୍ତିରୁ, ଯଦି GREK3 ପ୍ରକୃତରେ ଶିଳ୍ପ ସେମାନଙ୍କ ଶେଷକୁ ଆସୁଛି, "ପ୍ରି-ତାଲିମପ୍ରାପ୍ତ ମଡେଲଗୁଡିକ ସେମାନଙ୍କ ଶେଷକୁ ଆସୁଛି," ଏହା କ୍ଷେତ୍ର ପାଇଁ ଗୁରୁତର ପ୍ରଭାବ ପକାଇବ |

ବୋଧହୁଏ ଉତ୍କଣ୍ଠେ ଘେରି ରହି ଗ୍ରୋଫଲ ପରେ ଧୀରେ ଧୀରେ ଆର୍କେସିଡ୍ ପରେ, ଆମେ ଆଗି ପାଇଁ ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ ଡାଟାସେଟରେ ଟ୍ୟୁନିଙ୍ଗ୍ ହାଇ-ପରମ୍ଦନ ମଡେଲ ପରି ସାକ୍ଷୀ ଭାବରେ ସାକ୍ଷୀ ହେବୁ |